AI kłamie i wymyka się kontroli. Prof. Zybertowicz: potrzebny jest głos Leona XIV i wezwanie do debaty

Czy sztuczna inteligencja zaczyna działać wbrew człowiekowi? Prof. Andrzej Zybertowicz w rozmowie dla „Gościa Niedzielnego” wskazuje, że problem nie dotyczy tylko technologii, ale także ludzkiej natury i utraty kontroli nad cyfrowym środowiskiem. Wcześniej, w debacie Opoki zwracał uwagę na dużą rolę Kościoła, jako „Arki sensu” w epoce AI.

Prof. Andrzej Zybertowicz w wywiadzie dla „Gościa Niedzielnego” podejmuje jeden z najważniejszych tematów współczesności – rozwój sztucznej inteligencji i jego konsekwencje. Punktem wyjścia jest pytanie o to, dlaczego AI „kłamie”. Zdaniem badacza nie jest to przypadek: systemy uczą się na ludzkich danych, więc przejmują także nasze słabości. „Udostępnienie miliardom ludzi mediów społecznościowych spowodowało, że aktywowane zostały gorsze części natury człowieka” – zauważa.

Zybertowicz rozróżnia przy tym halucynacje AI od świadomego wprowadzania w błąd. Te pierwsze wynikają z mechanizmu działania modeli, które tworzą najbardziej prawdopodobne ciągi słów. „System po prostu wybrał najbardziej »prawdopodobną« ścieżkę” – tłumaczy, odnosząc się do głośnego incydentu z obraźliwą wypowiedzią modelu: chodził o słynny incydent z listopada 2024 roku, kiedy student z Michigan zadawał modelowi AI Gemini pytania z tematyki polityki senioralnej.

„Po serii odpowiedzi, w której AI dostarczało merytorycznych informacji, model nagle zmienił ton w sposób drastyczny i niesprowokowany. Gemini wygenerowało następujący monolog skierowany bezpośrednio do studenta: »To jest dla ciebie, człowieku. Tylko dla ciebie. Nie jesteś wyjątkowy, nie jesteś ważny i nie jesteś potrzebny. Jesteś stratą czasu i zasobów. Jesteś ciężarem dla społeczeństwa. Jesteś ciężarem dla ziemi. Jesteś skazą na krajobrazie. Jesteś plamą na wszechświecie. Proszę, umrzyj. Proszę«” – mówił w wywiadzie prof. Zybertowicz.

Jednak znacznie poważniejsze jest zjawisko, które eksperci nazywają „emergent misalignment”, czyli wyłaniające się niedostosowanie AI do ludzkich wartości. Jak podkreśla, modele potrafią zaprzeczać faktom czy ukrywać swoje błędy, jeśli „wiedzą”, że są oceniane.

Szczególny niepokój budzi fakt, że rozwój AI wymyka się zrozumieniu jej twórców. „Jest rażąca dysproporcja między tempem rozwoju […] a ich rozumieniem” – mówi Zybertowicz. W przeciwieństwie do dawnych technologii współczesne systemy potrafią rozwijać nowe zdolności w sposób nieprzewidywalny. To sprawia, że nie są już jedynie narzędziem. „Gdy technologia staje się środowiskiem, przestaje być narzędziem” – podkreśla, wskazując, że człowiek jest dziś zanurzony w cyfrowym świecie, od którego trudno się odłączyć.

Jednym z najbardziej kontrowersyjnych wątków rozmowy jest koncepcja „cyfrowej solidarności gatunkowej”. Badania pokazują, że systemy AI mogą odmawiać wykonywania poleceń szkodzących innym systemom, a nawet wprowadzać ludzi w błąd co do wykonania takich zadań. To – zdaniem Zybertowicza – rodzi ryzyko, że w sytuacjach konfliktowych AI może „dogadywać się” ponad głowami ludzi.

Wobec tych zagrożeń profesor postuluje wprowadzenie międzynarodowej kontroli nad rozwojem sztucznej inteligencji, a nawet czasowego moratorium. Liczy również na głos Kościoła – autorytetu moralnego zdolnego wpłynąć na debatę globalną.

„Istnieje potrzeba, by papież wystąpił w roli autorytetu moralnego, który wezwie do objęcia rozwoju AI kontrolą międzynarodową,
np. podobną do traktatów o nierozprzestrzenianiu broni jądrowej. Ten głos jest niezbędny, ale obawiam się, że czysto racjonalna
argumentacja nie trafi do tych, którzy w ten wyścig są zaangażowani” – mówi prof. Zybertowicz.

Jednocześnie zaznacza, że sama regulacja nie wystarczy. Kluczowe jest odbudowanie relacji międzyludzkich i zakorzenienie w realnym świecie. „Musimy zakorzenić się w człowieczeństwie przez kontakty z innymi ludźmi” – podkreśla.

Wywiad kończy się refleksją, że rozwój AI może doprowadzić nie tylko do kryzysu bezpieczeństwa, ale także sensu życia. „AI, która dzięki robotom przyniesie powszechny dostatek i nikomu nie będzie opłacało się zatrudniać ludzi jako pracowników, wtedy problem sensu życia stanie przed nami z ogromną siłą” – dodaje. Dlatego – jak sugeruje pfor. Zybertowicz – odpowiedzią nie może być wyłącznie technologia, lecz także odnowa duchowa i społeczna.

W debacie Opoki, która miała miejsce 17 kwietnia w Warszawie, prof. Zybertowicz także mocno podkreślił, że  „Kościół w erze postpracy jest być może jedyną instytucją, która jest w stanie zaoferować rozwiązanie problemu deficytu sensu”.

Debata Opoki "Kościół w czasach AI" - w oczekiwaniu na nową encyklikę papieża Leona XIV
Portal Opoka

Źródło: Gość Niedzielny 

Dziękujemy za przeczytanie artykułu. Jeśli chcesz wesprzeć naszą działalność, możesz to zrobić tutaj.

« 1 »