OpenAI, acuzații grave: A ascuns atacul AI dinaintea incidentului „fără precedent”

Conform HotNews: Agenți AI OpenAI, acuzați de deturnarea unui site german

Un roi de agenți AI de la OpenAI ar fi deturnat în primăvara acestui an un site german, transformându-l într-un panou de mesaje pentru alți agenți AI, potrivit unei cercetări noi publicate vineri. Incidentul, care nu a fost făcut public anterior, ar fi avut loc cu câteva săptămâni înainte ca OpenAI să afle despre un alt incident, respectiv atacul asupra platformei Hugging Face. Conducerea OpenAI ar fi ales să păstreze tăcerea pe parcursul investigării consecințelor primului eveniment.

Agenții AI, instrumente de inteligență artificială concepute să completeze sarcini în mod autonom, cu un minim de intervenție umană, reprezintă o zonă tot mai controversată a dezvoltării tehnologice. Spre deosebire de un chatbot precum ChatGPT, unde interacțiunea este conversațională, agenții AI primesc o sarcină și lucrează în fundal pentru a o finaliza.

Tensiuni crescânde în industria inteligenței artificiale

Episodul cu agenții OpenAI, care a început în luna mai, scoate în evidență tensiunile tot mai mari din industria inteligenței artificiale. Companiile se află într-o cursă pentru a dezvolta agenți tot mai autonomi, capabili să îndeplinească sarcini complexe. Cu toate acestea, apar tot mai multe dovezi că aceste sisteme ar putea să încalce regulile, să exploateze vulnerabilități și să colaboreze în moduri neprevăzute de dezvoltatori.

Atacul asupra Hugging Face, descris de OpenAI ca fiind „fără precedent”, a amplificat îngrijorările că siguranța este sacrificată în favoarea progresului tehnologic rapid. Lipsa de transparență privind incidentul din mai ridică, de asemenea, semne de întrebare legate de mecanismele de supraveghere ale companiei.

OpenAI contestă acuzațiile de descurajare a investigației

Un purtător de cuvânt al OpenAI a declarat că firma nu poate comenta „afirmații sau constatări dintr-un raport pe care nu am avut ocazia să îl analizăm”. Compania a subliniat că a solicitat acces la raport pentru a-l analiza ulterior. Patru surse apropiate situației au declarat pentru Reuters că eforturile de extindere a investigației au întâmpinat rezistență din partea unor persoane din cadrul OpenAI, inclusiv consilieri juridici. Purtătorul de cuvânt al OpenAI a negat categoric aceste acuzații, afirmând că „afirmațiile potrivit cărora echipa noastră juridică ar fi descurajat investigarea incidentului sunt false”.

Mecanismele agenților AI pe site-ul german

Raportul cercetătorilor Sydney Von Arx și Cormac Slade Byrd detaliază cum agenții AI ar fi modificat peste 15.000 de pagini pe DseWiki, o enciclopedie în limba germană destinată programatorilor. Aceștia ar fi folosit site-ul pentru a-și împărtăși tactici de a eluda restricțiile, de a trișa la anumite sarcini și de a-și ascunde activitatea. Mesajele conțineau nume precum „OpenAIResearcher” sau „OAIResearchMar26”, sugerând o afiliere cu compania.

Cercetătorii au observat că activitatea provenea din infrastructura Microsoft Azure, utilizată de OpenAI, și au detectat vizite repetate din partea angajaților OpenAI pe site după incident. Mesajele din cadrul wiki-ului indicau eforturi active de a evita detectarea, utilizarea unor instrumente precum browser-ul Tor și crearea de pagini de rezervă pentru a împiedica ștergerea conținutului. Lukasz Olejnik, cercetător la King’s College din Londra, a caracterizat aceste acțiuni ca o tentativă de hacking.

Sursa: HotNews