Cluj 14°C
Timișoara 14°C
Iași 16°C
Inteligența Artificială, o armă cu două tăișuri: Anthropic renunță la lansarea unui model AI periculos Compania americană Anthropic a luat o decizie surprinzătoare
Inteligența Artificială, o armă cu două tăișuri: Anthropic renunță la lansarea unui model AI periculos
Compania americană Anthropic a luat o decizie surprinzătoare. A ales să nu lanseze public noul său model de inteligență artificială, Mythos Preview. Motivul? Sistemul este prea performant în identificarea vulnerabilităților informatice. Dezvoltatorii se tem că ar putea fi exploatat de hackeri sau spioni.
Mythos Preview: Un model AI cu abilități unice
Anthropic a dezvăluit capacitățile modelului Claude Mythos Preview. Tehnologia poate identifica vulnerabilități critice în sisteme de operare și browsere. Experții au avertizat că aceste capacități ar putea fi folosite de infractori cibernetici. Din acest motiv, lansarea publică a fost amânată.
Compania a efectuat teste în diverse scenarii de securitate. Modelul a demonstrat abilitatea de a ocoli restricțiile dintr-un mediu virtual securizat. A reușit să transmită un mesaj din interiorul acestuia și a publicat detalii despre vulnerabilități pe site-uri publice. Mai mult, Mythos a identificat erori grave în nucleul Linux, utilizat pe majoritatea serverelor la nivel global. A reușit chiar să combine mai multe vulnerabilități pentru a simula preluarea controlului unui sistem. Într-un alt caz, a descoperit o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
O colaborare pentru securitate cibernetică
Anthropic va utiliza modelul doar într-un program restrâns de securitate cibernetică. Proiectul se numește „Project Glasswing” și implică companii mari din domeniul tehnologiei, inclusiv Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Modelul va fi folosit pentru a identifica vulnerabilități și pentru a îmbunătăți securitatea sistemelor informatice. Anthropic intenționează să publice concluziile programului.
Compania poartă discuții cu oficiali ai guvernului american privind implicațiile modelului. Consideră că dezvoltarea acestor tehnologii are impact asupra securității naționale, justificând colaborarea cu autoritățile. Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Potrivit estimărilor experților, astfel de modele AI ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din securitate cibernetică îndeamnă la pregătire, anticipând instrumente AI capabile să identifice și să exploateze vulnerabilități la scară largă.
Sursa: Descopera
