Algorytmy nie są neutralne

W miniony czwartek odnotowano w świecie komunikacji epokowe wydarzenie. Federalna Komisja Łączności (FCC) podjęła decyzję o uchyleniu zasady „neutralności sieci” w zakresie wymiany informacji w internecie.

Aby zrozumieć, co pociąga za sobą to postanowienie FCC, pomyślmy o wielopasmowej autostradzie (sieć), po której poruszają się wszelkiego rodzaju pojazdy (pakiety informacyjne). Przy net neutrality narzucane są opłaty za przejazd i ograniczenia prędkości jednakowe dla wszystkich pojazdów; bez net neutrality administratorzy autostrad (tak zwani internet service providers) mogą ustalać specjalne opłaty i rezerwować pasy szybkiego ruchu (tzw. paid prioritization) dla wybranych przez siebie pojazdów.

Z komercyjnego punktu widzenia neutralność sieci miałaby stanowić, zdaniem jej zwolenników, ochronę dla użytkowników przed narzucaniem warunków przez bardzo potężne lobby, podczas gdy dla krytykujących ją — zasadę szkodliwą, która może stanowić przeszkodę dla znaczących innowacji. Jednakże gdy spojrzeć na tę kwestię z szerszej perspektywy, pojawiają się co najmniej dwa inne pytania. Po pierwsze, w jakiej mierze sieć winna być traktowana na równi z zasadniczym dobrem — niezbędną utility — do którego dostęp winien być zagwarantowany. Po drugie, w jakiej mierze sieć powinna być uważana za miejsce absolutnej wolności — open internet, wolny od wszelkiej data discrimination — którego celem byłby możliwie jak najszerszy dostęp do największej, jaką sobie można wyobrazić, różnorodności informacji.

Zasada neutralności sieci opiera się na dwóch innych — zasadzie dumb pipe i zasadzie end-to-end; żeby informacje mogły być traktowanie w sposób bezstronny, w istocie sieć musi działać jak coś w rodzaju „szerokiej rury”, pozostawiając „końcówkom terminali” zadanie ich selekcji. Jednakże ta przepustowość w przesyłaniu informacji „rywalizuje” z wyrafinowanymi systemami sztucznej inteligencji, które wydoskonalają ich przetwarzanie za pomocą coraz bardziej ulepszanych algorytmów matematycznych. Właśnie w miniony piątek Krajowa Komisja ds. Informatyki i Wolności (CNIL) wystosowała ostrzeżenie w sprawie rozprzestrzeniających się analiz big data (niepoliczalna ilość danych dostępnych za sprawą mediów społecznościowych, kart kredytowych czy kart lojalnościowych, wyszukiwarek...),w celu przewidywania zachowań pojedynczych osób czy grup.

Aby zrozumieć zasadność ostrzeżenia CNIL, weźmy pod uwagę następujący przykład. Dana partia polityczna optymalizuje swoją kampanię wyborczą za pomocą algorytmu, który na podstawie danych z ostatnich wyborów tworzy listę osób mieszkających w strefach, gdzie odnotowuje się wielką zmienność intencji głosowania; ten sam algorytm bada następne pozycje wydatków odnotowanych w kartach kredytowych osób z tej samej listy, aby wykluczyć z niej tych, których zachowanie wskazuje na nieprawdopodobieństwo zmiany nastawienia politycznego (np. darowizny na rzecz określonych stowarzyszeń, prenumerata niektórych dzienników...); odnośnie do pozostałych kontroluje dane z kart lojalnościowych, aby ustalić, jakie są ich zainteresowania (np. rodzina, jeśli kupują pieluchy; kultura, jeśli nabywają książki...). Na koniec wysyła do tych wyborców mail z obietnicami partii odnośnie do bliskich im tematów (np. budowa żłobków, subwencje dla kina autorskiego...).

Prawdą jest, że wszyscy już jesteśmy poddawani nieustannym profiling, które opierają się na zestawieniu kategorii społeczno-ekonomiczno-demograficznych, które są ustalane dzisiaj przez wyspecjalizowanych programatorów, a w przyszłości przez sztuczne inteligencje, tak bardzo sprawne, że — dzięki procesowi machine learning — będą zdolne do ich wydoskonalania w sposób autonomiczny. Dlatego CNIL sygnalizuje pilną potrzebę systemu nadzoru nad sztucznymi inteligencjami, który by uczynił ich działanie transparentnym i podporządkował je zasadom etycznym. Niech nikt się nie łudzi — jedynie w świecie pozbawionym etyki neutralność, bezstronność i obiektywność są synonimami.

opr. mg/mg