Dokument opisujący regulacje, którymi zdaniem europosłów należy objąć systemy sztucznej inteligencji, przyjęły dwie komisje Parlamentu Europejskiego – handlu międzynarodowego i wolności obywatelskich.

Projekt, nazywany w skrócie AI Act, wprowadza zakazy i ograniczenia w stosowaniu AI oraz wzmacnia prawną ochronę osób pokrzywdzonych przez wykorzystanie systemów sztucznej inteligencji.

„Systemy sztucznej inteligencji o niedopuszczalnym poziomie ryzyka dla bezpieczeństwa ludzi byłyby surowo zabronione, w tym systemy wykorzystujące techniki podprogowe lub celowo manipulacyjne, wykorzystujące słabe strony ludzi lub wykorzystywane do punktacji społecznej (klasyfikacja ludzi na podstawie ich zachowań społecznych, statusu społeczno-ekonomicznego, osobistych cech)” – informuje serwis Wirtualne Media.

Opoka News DODANE 04.05.2023

Pionier sztucznej inteligencji: powinniśmy się poważnie martwić, jak powstrzymać AI przed przejęciem nad nami kontroli

Geoffrey Hinton, powszechnie uważany za ojca chrzestnego sztucznej inteligencji, po ponad dekadzie w Google odszedł z pracy i dziś ostrzega przed rosnącymi zagrożeniami wynikającymi z rozwoju AI. 

Zakazane byłoby wykorzystywanie AI do biometrycznej identyfikacji i kategoryzacji osób, predykcji kryminalnej czy w systemach rozpoznawania emocji. Ograniczenia miałyby dotyczyć także modeli językowych – jak popularny od niedawna Chat GPT. Chodzi o to, by nie mogły one generować treści o nielegalnym charakterze oraz opartych na materiałach chronionych prawem autorskim.

Przewidziano jednak wyjątki, które mają umożliwić innowacyjne rozwijanie sztucznej inteligencji. Dotyczą one działań badawczych i komponentów sztucznej inteligencji na licencji open source.

„Nowe prawo promuje regulacyjne środowiska testowe (sandbox) lub kontrolowane środowiska tworzone przez władze publiczne w celu testowania sztucznej inteligencji przed jej wdrożeniem” – czytamy na łamach Wirtualnych Mediów.

Ponieważ sztuczna inteligencja jest wykorzystywana w systemach rekrutacyjnych czy decydujących o przyznaniu kredytu, zdaniem europosłów konieczne jest wzmocnienie ochrony osób, których te decyzje dotyczą. Zgodnie z proponowanymi regulacjami, miałyby powstać krajowe instytucje, do których skargę mógłby wnieść każdy, kto uzna, że jego prawa zostały naruszone przez AI.

„Jesteśmy o krok od wprowadzenia w życie przełomowych przepisów, które muszą sprostać wyzwaniu czasu” – powiedział współsprawozdawca Brando Benifei. Podkreślił konieczność „budowania zaufania obywateli do rozwoju sztucznej inteligencji, wyznaczenia europejskiego sposobu radzenia sobie z nadzwyczajnymi zmianami, które już zachodzą, a także ukierunkowanie debaty politycznej na temat sztucznej inteligencji na poziomie globalnym”.

KAI DODANE 11.05.2023

Tomasz Rożek: Próbowano nauczyć AI moralności, to zawsze wychodziło źle

Było już sporo różnych eksperymentów myślowych, projektów badawczych, w których próbowano nauczyć sztuczną inteligencję (AI) moralności i to zawsze wychodziło źle – mówi Tomasz Rożek. 

Z kolei współsprawozdawca Dragos Tudorache zaznaczył, że AI Act „jest najprawdopodobniej najważniejszym aktem prawnym w tej kadencji”. Podkreślił, że to pierwszy akt prawny tego rodzaju na świecie. W jego ocenie oznacza to, że „UE może przewodzić w tworzeniu sztucznej inteligencji, która będzie skoncentrowana na człowieku, godna zaufania i bezpieczna”.

Projekt mandatu negocjacyjnego, który przyjęły komisje, musi zostać zatwierdzony przez Parlament Europejski. Kolejnym krokiem będą konsultacje z Radą w kwestii ostatecznego kształtu przepisów.

Źródła: wirtualnemedia.pl, telepolis.pl