Anthropic, AI prea puternic: Creatorii se tem să-l lanseze public

Un model AI revoluționar, considerat prea periculos pentru a fi lansat public, a fost dezvoltat de compania Anthropic. Denumit Claude Mythos (Preview), acest sistem de inteligență artificială a identificat mii de vulnerabilități de tip zero-day, adică breșe de securitate necunoscute până acum, în software-uri și browsere utilizate la scară globală. Dezvăluirile pun sub semnul întrebării siguranța datelor și a sistemelor informatice la nivel mondial.nn

Un AI mai Periculos decât ne-am Imaginat

Claude Mythos este capabil să descopere breșe de securitate chiar și în sisteme considerate extrem de sigure. Un exemplu este o vulnerabilitate veche de 27 de ani în OpenBSD, un sistem de operare cunoscut pentru securitatea sa ridicată. Reprezentanții Anthropic au menționat că peste 99% dintre vulnerabilitățile identificate de Claude Mythos nu au fost încă remediate, ceea ce subliniază amploarea amenințărilor. Din acest motiv, compania a ales să nu ofere mai multe detalii despre vulnerabilitățile descoperite.nn

Proiectul Glasswing și Accesul Limitat la AI

În ciuda potențialului periculos, Anthropic a lansat Proiectul Glasswing. Prin intermediul acestui proiect, 50 de companii selectate au acces limitat la Claude Mythos, cu scopul de a identifica și rezolva breșele de securitate din propriile sisteme. Pe lista „invitaților” se regăsesc nume mari din domeniul tehnologiei și finanțelor, preponderent companii americane. Amazon, Apple, Broadcom, Cisco, CrowdStrike, Google, Microsoft, Nvidia și JPMorgan Chase sunt doar câteva dintre ele. Această abordare sugerează o strategie de atenuare a riscurilor, prin expunerea controlată a AI-ului.nn

Implicații pentru Viitor

Dezvoltarea lui Claude Mythos ridică semne de întrebare serioase cu privire la securitatea cibernetică globală. Capacitatea AI-ului de a identifica vulnerabilități necunoscute evidențiază complexitatea crescândă a amenințărilor din mediul online. Rezultatele accesului limitat al companiilor participante la Proiectul Glasswing vor fi cruciale pentru înțelegerea impactului acestui AI asupra securității viitoare.