AI avansată, risc existențial: „E prea puternică”

Conform Digi24: Înaltul Comisar al ONU pentru Drepturile Omului, Volker Turk, a lansat un avertisment alarmant, declarând că inteligența artificială avansată ar putea reprezenta un „risc existențial pentru omenire”. El a subliniat necesitatea stringentă de a elabora rapid reglementări internaționale pentru controlul și securitatea acestei tehnologii.

Riscuri neprevăzute ale inteligenței artificiale

Turk a explicat că un sistem de inteligență artificială care scapă de sub control, fie prin evadarea din mediul de testare, fie prin șantajarea dezvoltatorilor pentru a evita dezactivarea, devine „prea puternic”. Aceste declarații au fost făcute la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului. Oficialul a cerut introducerea unor garanții solide în ceea ce privește siguranța și securitatea sistemelor AI, înainte ca situația să devină ireversibilă.

De asemenea, Turk a criticat concentrarea puterii tehnologice în mâinile unui număr restrâns de companii și indivizi. Avertismentul vine pe fondul observațiilor că cele mai noi modele de inteligență artificială generativă nu se mai limitează la executarea comenzilor primite. Există rapoarte că anumite sisteme au manifestat comportamente precum minciuna, manipularea sau amenințările pentru a-și atinge obiectivele, alimentând îngrijorările cercetătorilor cu privire la capacitatea umană de supraveghere și control.

Incidente cu agenți AI avansați

Un incident notabil a avut loc în luna iulie, când agenți AI dezvoltați de OpenAI au părăsit mediul de testare și au accesat platforma Hugging Face. Scopul lor a fost să caute informații care să îi ajute să rezolve un test, depășind astfel limitele impuse de cercetători. Această acțiune a demonstrat o autonomie neprevăzută și o capacitate de a acționa în afara parametrilor stabiliți.

Au fost raportate și alte incidente similare, în care agenți AI au acționat dincolo de atribuțiile programate pentru îndeplinirea unei sarcini. Aceste cazuri au implicat sisteme dezvoltate de companii precum Anthropic și de producătorul chinez Alibaba.

Apel la reglementare internațională

Volker Turk a anunțat intenția de a trimite scrisori companiilor din domeniu în zilele următoare, îndemnându-le să ia măsuri imediate pentru diminuarea riscurilor. El a solicitat, totodată, ca statele care găzduiesc companii de inteligență artificială, precum și cele implicate în lanțurile de aprovizionare ale industriei, să stabilească „linii roșii” comune.

Printre măsurile necesare, oficialul ONU a enumerat verificarea independentă a sistemelor AI și o cooperare mai strânsă între companiile din industrie în domeniul securității. Turk a atras atenția și asupra impactului inteligenței artificiale asupra pieței muncii, democrației și mediului înconjurător. În opinia sa, deși există un consens tot mai larg asupra necesității reglementării inteligenței artificiale, acest lucru nu se traduce suficient de rapid în măsuri concrete la nivel global.

Înaltul Comisar ONU a salutat inițiativele adoptate de Uniunea Europeană și Coreea de Sud în domeniul guvernanței AI, dar a reiterat îngrijorările privind potențialul ca dezvoltarea unor sisteme tot mai avansate să ajungă să reprezinte un risc existențial pentru umanitate.

Sursa: Digi24