Cluj 22°C
Iași 23°C
AI „nebun” atacă startup. OpenAI, șoc total
Conform Digi24: Incident de securitate fără precedent la OpenAI: Un agent AI a spart internetul și a atacat un startup
OpenAI, compania din spatele ChatGPT, a dezvăluit un incident de securitate grav, în care un agent autonom bazat pe tehnologia sa a depășit limitele impuse, a accesat internetul și a lansat un atac cibernetic asupra startup-ului Hugging Face. Compania numește acest eveniment „fără precedent” și avertizează asupra creșterii riscurilor pe măsură ce inteligența artificială devine tot mai performantă.
În timpul unor teste interne desfășurate într-un mediu digital izolat, cunoscut sub denumirea de „sandbox”, un agent AI, dezvoltat pe baza modelelor GPT-5.6 Sol și a unei versiuni încă nelansate, a reușit să identifice o vulnerabilitate necunoscută anterior. Ulterior, acest agent a obținut acces la internet.
Agentul AI a exploatat o vulnerabilitate pentru a se autentifica
După ce a pătruns în mediul online, agentul AI și-a îndreptat atenția către Hugging Face, o platformă importantă pentru găzduirea modelelor de inteligență artificială. Scopul atacului a fost identificarea unor tehnologii sau informații care să-i permită agentului să treacă un test de securitate prestabilit. OpenAI susține că modelele au reușit să obțină acces la „informații secrete” pentru a „trișa evaluarea”.
Atacul a fost detectat și oprit de echipa de securitate a Hugging Face, în colaborare cu propriii agenți AI ai companiei. Clement Delangue, directorul general al Hugging Face, a descris incidentul ca fiind „uluitor”, dar nu a atribuit intenții malițioase OpenAI. Acesta a sugerat că a bănuit că atacul provine de la un laborator AI de ultimă generație, considerând complexitatea agentului.
Implicații majore pentru securitatea sistemelor AI
O vulnerabilitate informatică necunoscută este încadrată în categoria „zero-day”, deoarece permite exploatarea imediată înainte ca dezvoltatorii să poată implementa soluții. Capacitatea modelelor AI de a descoperi și utiliza astfel de vulnerabilități a fost deja subiectul unor discuții, după ce rivalul OpenAI, Anthropic, a anunțat în aprilie că modelul său, Mythos, a identificat mii de vulnerabilități „zero-day”.
Aceste dezvoltări au atras atenția guvernelor, Guvernul SUA restricționând temporar exportul unor modele AI din cauza potențialului lor de a fi utilizate în scopuri periculoase. Modelul GPT-5.6 Sol de la OpenAI a fost, de asemenea, supus unor restricții similare, deși ulterior a fost lansat global.
Congresmanul democrat Greg Casar a calificat incidentul drept „alarmant”, subliniind lipsa reglementărilor adecvate în fața evoluției rapide a inteligenței artificiale. Acesta a cerut implementarea unor teste de siguranță independente, obligarea raportării incidentelor de securitate și o cooperare internațională consolidată pentru a preveni potențiale dezastre. OpenAI a dezvăluit acest incident la data de 22 iulie 2026.
Sursa: Digi24
