Claude Mythos: Ce e și ce riscuri ascunde IA care sperie Google și BBC?
Îngrijorări majore în lumea digitală: un nou model de inteligență artificială depășește performanțele umane în securitate cibernetică
Un nou model de inteligență artificială, dezvoltat de compania Anthropic, a stârnit valuri de îngrijorare în rândul experților în securitate cibernetică, al autorităților de reglementare și al instituțiilor financiare. Modelul, numit Claude Mythos, ar fi capabil să depășească performanțele umane în identificarea și exploatarea vulnerabilităților de securitate cibernetică, potrivit informațiilor disponibile. Această descoperire a generat dezbateri aprinse cu privire la riscurile pe care le-ar putea prezenta pentru serviciile digitale.
Ce este claude mythos?
Mythos face parte din modelul mai amplu de inteligență artificială Claude, dezvoltat de Anthropic. Acesta rivalizează cu modele similare precum ChatGPT de la OpenAI și Gemini de la Google. Anunțat inițial în aprilie sub numele de „Mythos Preview”, modelul a atras atenția cercetătorilor care au testat capacitățile sale.
Echipele de cercetare, cunoscute sub numele de „echipe roșii”, au raportat că Mythos este „remarcabil de capabil în ceea ce privește sarcinile de securitate informatică”. Potrivit acestora, modelul a reușit să identifice și să exploateze cu ușurință bug-uri ascunse în coduri vechi de zeci de ani. În loc să îl pună la dispoziția publicului larg, Anthropic a acordat acces la Mythos unui număr limitat de companii de tehnologie prin intermediul unui program numit Project Glasswing.
Printre companiile care au primit acces la Mythos se numără giganți precum Amazon Web Services, Apple, Microsoft, Google, Nvidia și Broadcom. Anthropic a colaborat, de asemenea, cu peste 40 de organizații responsabile de software critic. Șeful Anthropic, Dario Amodei, a declarat că a oferit colaborare oficialilor guvernului SUA pentru a ajuta la apărarea împotriva riscurilor prezentate de aceste modele.
Reacții și îngrijorări
Anthropic a susținut că modelul a demonstrat capacități superioare în sarcinile de securitate cibernetică, depășind performanțele umane. Compania a afirmat că Mythos a identificat mii de vulnerabilități de importanță majoră, inclusiv în sisteme de operare și browsere web importante. Experții se tem că astfel de capacități s-ar putea răspândi rapid, depășind potențial controlul celor care se angajează să le implementeze în siguranță.
Ministrul canadian al finanțelor, François-Philippe Champagne, a subliniat importanța discuțiilor despre Mythos în cadrul reuniunii Fondului Monetar Internațional (FMI). Andrew Bailey, guvernatorul Băncii Angliei, a menționat necesitatea unei analize atente a implicațiilor acestui model pentru criminalitatea cibernetică. De asemenea, Uniunea Europeană se află în discuții cu Anthropic pe tema îngrijorărilor legate de Mythos.
Ciaran Martin, fostul șef al Centrului Național de Securitate Cibernetică din Marea Britanie, a declarat că capacitatea modelului de a descoperi vulnerabilități critice mult mai rapid decât alte modele de inteligență artificială „a șocat cu adevărat oamenii”. Institutul pentru Siguranța IA din Marea Britanie a concluzionat că, deși este un model puternic, cea mai mare amenințare a sa ar fi împotriva sistemelor vulnerabile și slab apărate.
Perspective și viitor
Experții avertizează asupra pericolului de a intra în panică și subliniază importanța de a asigura securitatea cibernetică de bază. Majoritatea atacurilor cibernetice reușesc prin metode simple, fără a fi nevoie de instrumente avansate. În ciuda riscurilor, există și oportunitatea de a utiliza aceste instrumente pentru a îmbunătăți securitatea online. Pentru unii, această situație este un eveniment apocaliptic, pentru alții pare a fi doar multă agitație, a declarat Martin.
În prezent, se așteaptă ca discuțiile cu privire la implicațiile modelului Mythos să continue, iar autoritățile de reglementare din întreaga lume vor evalua riscurile și vor căuta soluții pentru a asigura un mediu digital sigur.
Sursa: Financialintelligence.ro