IA autonomă: Un nou pericol, Anthropic dă alarma

Conform Digi24: Viermi ia: o amenințare reală în lumea digitală

Cercetătorii de la Anthropic au creat un program de inteligență artificială (IA) capabil să se răspândească autonom prin dispozitive conectate la internet, un concept alarmant care seamănă cu „viermii” informatici din trecut, dar cu o capacitate de adaptare sporită. Această amenințare este considerată concretă, spre deosebire de speculațiile apocaliptice despre viitorul IA.

Echipa „roșie” a Anthropic, responsabilă de testarea defensivă, a demonstrat cum un astfel de program s-a propagat prin televizoare inteligente. Deși IA necesită, de obicei, putere de calcul semnificativă, programul creat și-a împărțit resursele între 15 televizoare, funcționând eficient cu o fracțiune din capacitatea fiecărui dispozitiv.

De la ficțiune la realitate: impactul „horcruxurilor” digitale

Conceptul de IA care se autoreplică și se distribuie amintește de horcruxurile din seria Harry Potter, unde fragmente de suflet erau ascunse în obiecte. Totuși, în cazul inteligenței artificiale, implicațiile sunt departe de a fi ficționale. Securitatea precară a dispozitivelor „Internet of Things” (IoT), inclusiv a televizoarelor inteligente, face dificilă combaterea unei astfel de amenințări, chiar și printr-un efort global coordonat.

Joshua Saxe, fost lider în securitatea IA la Meta, a subliniat gravitatea situației, afirmând că membrii comunității de securitate cibernetică nu iau aceste riscuri suficient de în serios. El consideră că este necesară o atenuare proactivă a posibilelor efecte negative.

Daune istorice și perspective viitoare

Viermii informatici clasici, care se autoreplică fără intervenție umană, au cauzat daune considerabile în istoria internetului. Viermele Morris din 1988 a demonstrat vulnerabilitatea rețelelor în construcție. Mai recent, viermele Stuxnet a fost utilizat în spionajul internațional pentru a sabota centrifuge nucleare. Atacuri precum NotPetya și WannaCry au provocat pagube de zeci de miliarde de dolari la nivel mondial.

Principalul factor care permite propagarea acestor amenințări este lipsa de actualizare a sistemelor de securitate. Cercetătorii de la Anthropic anticipează că un vierme IA ar putea exploata aceleași vulnerabilități. Deoarece dispozitivele smart primesc patch-uri de securitate mai rar decât telefoanele sau laptopurile, acestea devin ținte mai ușor de compromis. Mai îngrijorător, un vierme bazat pe IA ar putea să se adapteze la noi tipuri de hardware, identificând vulnerabilități recente.

Ceea ce diferențiază viermii IA de virușii tradiționali este capacitatea lor de a învăța și de a se adapta în timp real. Ariel Herbert-Voss, expert în securitate IA, a menționat că infrastructura actuală de securitate cibernetică nu este pregătită pentru proliferarea unor astfel de amenințări. Este esențială oferirea de resurse sporite echipelor de securitate pentru remedierea problemelor.

Chris Inglis, fost director național pentru securitate cibernetică în administrația Biden, sugerează că astfel de programe ar putea fi utilizate și în scopuri benefice. Întrebarea pertinentă nu mai este dacă viermii IA sunt plauzibili, ci cum vor fi folosiți, contracarați sau combinați cu alte tehnologii emergente. Cercetătorii de la Anthropic au indicat că o funcționalitate sporită pe dispozitive cu performanțe reduse va deveni posibilă până la sfârșitul anului, conform tendințelor actuale.

Sursa: Digi24