Nobliści: encyklika Leona XIV to wielki krok ku uniknięciu wojny nuklearnej sprowokowanej przez AI

Akt podpisania dokumentu miał miejsce w Pałacu Senatorskim na Kapitolu w Rzymie, kończąc dwudniowe zamknięte zebranie w Ogrodach Watykańskich w Castel Gandolfo, gdzie ponad dwudziestu laureatów Nagrody Nobla spotkało się z byłymi głowami państw, przywódcami religijnymi, naukowcami oraz badaczami sztucznej inteligencji z organizacji takich jak Google DeepMind, Aaru i Anthropic.

„Magnifica Humanitas” kluczowym dokumentem

Arthur B. McDonald, kanadyjski astrofizyk i laureat Nagrody Nobla w dziedzinie fizyki w 2015 roku, podkreśla, że wielu naukowców przyjęło encyklikę papieża Leona jako "dokument dla ludzkości". W jego przekonaniu papież ma szczególne prawo przestrzegać świat przed zagrożeniami ze strony sztucznej inteligencji, a także przed ciągłym zagrożeniem bronią jądrową.

„W tej chwili naprawdę stajemy wobec kryzysu zagrażającego ludzkości,” dodał.

Moralne wyzwania AI

Maria Ressa, filipińska dziennikarka laureatka Pokojowej Nagrody Nobla w 2021 roku, pochwaliła przywództwo papieża Leona w tej kwestii oraz odwagę w wskazywaniu moralnych wyzwań związanych ze sztuczną inteligencją.

„Naukowcy idą obecnie ramię w ramię z wiarą,” powiedziała. „Encyklika papieża Leona to larum dla przywódców”.

James E. Muller, amerykański kardiolog współzałożyciel Międzynarodowych Lekarzy na rzecz Zapobiegania Wojnie Nuklearnej, który otrzymały Pokojową Nagrodę Nobla w 1985 roku, nazwał słowa papieża Leona dotyczące doktryny odstraszania nuklearnego i nowego wyścigu zbrojeń w piątym rozdziale encykliki „wielkim krokiem naprzód”.

Potrzebny międzynarodowy traktat ujarzmiający AI

Dokumenty zatytułowany „Deklaracja rzymska o pokoju nieuzbrojonym i rozbrajającym w erze sztucznej inteligencji i broni jądrowej” przedstawia sześć zasad dotyczących zarządzania AI, rozbrojenia nuklearnego oraz zagrożeń związanych z nowymi technologiami. Wzywa do uchwalenia międzynarodowego traktatu, który zapewni, że żaden zautomatyzowany system nigdy nie będzie mógł podjąć ostatecznej decyzji o użyciu broni jądrowej oraz że „istotna kontrola człowieka” nad takimi decyzjami zostanie zachowana.

Deklaracja wzywa również twórców AI do opublikowania i przestrzegania zasad kierujących zachowaniem ich modeli oraz stwierdza, że żadna firma ani rząd nie powinny realizować w pełni zautomatyzowanych, samodoskonalących się systemów AI bez możliwości ich monitorowania lub powstrzymywania. Wzywa państwa posiadające broń jądrową do przeprowadzenia przeglądów mających na celu ochronę arsenałów przed nieautoryzowaną ingerencją ze strony AI oraz do wznowienia negocjacji w celu weryfikowalnej eliminacji broni jądrowej na podstawie istniejących traktatów o nierozprzestrzenianiu broni.

Deklaracja rozpoczyna się stwierdzeniem, że ludzkość stoi przed „przełomowym momentem”, gdy era nuklearna styka się z AI – argumentując, że ludzkość nie zapobiegła atmosferze trwałego zastraszenia przed wojną nuklearną po rozwoju broni atomowej oraz ostrzegając przed powtarzaniem tego błędu w przypadku AI.

Powtarzając słowa laureatów Nagrody Nobla Alberta Einsteina i Bertranda Russella z manifestu z 1955 roku podkreślającego niebezpieczeństwo broni jądrowej, deklaracja brzmi:

„Apelujemy jako ludzie do ludzi: pamiętajcie o swojej ludzkiej naturze, a o reszcie zapomnijcie”, dodając: „Zagrożone jest przetrwanie nas samych oraz przetrwanie przyszłych pokoleń”.

Potrzebny nacisk ze strony społeczeństwa

David Gross, laureat Nagrody Nobla w dziedzinie fizyki w 2004 roku, argumentował, że tym, co napędza pozytywne przemiany, jest nacisk ze strony społeczeństw, a nie działania przywódców państw.

„Gdyby młodzi ludzie zostali uświadomieni o obecnym niebezpieczeństwie ... wyszliby na ulice”, powiedział Gross po podpisaniu deklaracji.

3-dniowy szczyt na temat sztucznej inteligencji i wojny nuklearnej

Trzydniowy szczyt, zwany Globalnym Zgromadzeniem Nobla na temat sztucznej inteligencji i wojny nuklearnej, zgromadził około 200 delegatów i był współorganizowany przez instytucje takie jak Laboratorium Ryzyka Egzystencjalnego Uniwersytetu Chicagowskiego, Uniwersytet Notre Dame, Harvard Medical School, Biuletyn Atomowych Naukowców, Międzynarodowi Lekarze na rzecz Zapobiegania Wojnie Nuklearnej oraz Katolicki Uniwersytet Ameryki.

Jako honorowa ambasadorka pokoju i członek Rosyjskiej Akademii Nauk uczestniczyła w nim aktorka Sharon Stone .

Daniel Holz, astrofizyk z Uniwersytetu Chicagowskiego badający czarne dziury, powiedział, że zgromadzenie rzymskie podąża za przesłaniem papieża Leona.

„To spotkanie ... jest żywym przykładem zastosowania encykliki” – powiedział. „Wykonujemy dzieło, o którym konkretnie mówi encyklika.”

Głos Watykanu

Na konferencji przemawiało kilku wysokich urzędników watykańskich, w tym kardynałowie Ángel Fernández Artime, Fabio Baggio, Silvano Maria Tomasi, Mauro Gambetti oraz Baldassare Reina, wikariusz generalny diecezji rzymskiej.

Ks. Andrea Ciucci, prezes Papieskiej Akademii Życia, powiedział:

„Jestem bardzo dumny z tego wydarzenia, ponieważ przywódcy różnych religii pokazują, że potrafimy współpracować ... na rzecz ludzkości.”

Kardynał Reina stwierdził, że deklaracja jasno określa, iż

„żadna maszyna, żaden algorytm ani żaden system autonomiczny” nie powinny decydować w sprawach dotyczących przetrwania ludzkości. „Decyzje dotyczące życia i śmierci, pokoju i wojny oraz przyszłości narodów i przyszłych pokoleń muszą pozostać pod pełną, odpowiedzialną i znaczącą kontrolą człowieka” – wskazywał.

Ten artykuł powstał dzięki naszym Darczyńcom. Dziękujemy za Wasze wsparcie.