Pionier sztucznej inteligencji: powinniśmy się poważnie martwić, jak powstrzymać AI przed przejęciem nad nami kontroli

Badania dr Hintona nad sieciami neuronowymi i głębokim uczeniem utorowały drogę obecnym systemom sztucznej inteligencji, takim jak popularny ostatnio ChatGPT. Teraz, po odejściu z pracy w Google, naukowiec przyznaje, że żałuje tego nad czym pracował, a niebezpieczeństwa związane z chatbotami opartymi na AI są „dość przerażające”.

Na łamach New York Times stwierdził, że jest zaniepokojony potencjałem sztucznej inteligencji do eliminowania miejsc pracy i tworzenia świata, w którym wielu „nie będzie już mogło wiedzieć, co jest prawdą”. Wskazał również na oszałamiające tempo rozwoju, daleko wykraczające poza to, co on i inni przewidywali.

„W tej chwili nie są bardziej inteligentne od nas, o ile wiem. Ale myślę, że wkrótce mogą być” – tłumaczył z kolei w rozmowie z BBC. Jak wyjaśniał, na razie programy takie jak GPT-4 przyćmiewają człowieka poziomem posiadanej wiedzy ogólnej, ale przegrywają z ludzkim umysłem, jeśli chodzi o rozumowanie. Biorąc jednak pod uwagę tempo rozwoju AI, ta sytuacja niebawem może się zmienić.

„Jestem tylko naukowcem, który nagle zdał sobie sprawę, że te rzeczy stają się mądrzejsze od nas” – powiedział dr Hinton w CNN. Chce zaalarmować, że „powinniśmy poważnie martwić się o to, jak powstrzymać te rzeczy przed przejęciem nad nami kontroli”.

Jak tłumaczył, zdał sobie sprawę z różnic między inteligencją ludzką a cyfrową. „W systemach cyfrowych masz wiele kopii tego samego zestawu wag, tego samego modelu świata” – stwierdził w NYT. „Wszystkie te kopie mogą uczyć się osobno, ale natychmiast dzielić się swoją wiedzą. To tak, jakbyś miał 10 000 osób i gdy tylko jedna osoba się czegoś nauczyła, wszyscy automatycznie, by o tym wiedzieli. I dlatego te chatboty mogą wiedzieć o wiele więcej niż jakakolwiek jedna osoba”.

Jego zdaniem przerwa w pracach nad rozwijaniem AI – o którą apelowali niedawno eksperci – byłaby trudna do osiągnięcia. Jeśli jedne kraje zastopują prace, inne (np. Chiny) mogą wykorzystać to do zyskania przewagi technologicznej.

W rozmowie z CNN dr Hinton nie ukrywał, że obawia się manipulowania ludźmi przez AI. „Wie, jak programować, więc znajdzie sposoby na obejście ograniczeń, które na niego nałożymy. Wymyśli sposoby manipulowania ludźmi, aby robili to, czego chcą” – powiedział.

 „Uważam, że powinniśmy włożyć duży wysiłek w zastanowienie się nad sposobami rozwiązania problemu. Obecnie nie mam rozwiązania” – przyznał G. Hinton.

Źródła: New York Times, BBC, CNN