Anthropic, o companie americană de cercetare în domeniul inteligenței artificiale, a dezvoltat un model AI extrem de performant, capabil să identifice și să exploateze vulnerabilități de securitate cibernetică la un nivel fără precedent

Un model ai care depășește limitele

În cadrul testelor interne, Claude Mythos Preview a reușit să descopere și să exploateze vulnerabilități „zero-day”, necunoscute până atunci, în sisteme de operare precum Windows, macOS, Linux și în browserele Chrome, Firefox, Safari și Edge. Modelul nu doar a identificat aceste breșe de securitate, ci a și creat programe funcționale pentru a le exploata. Într-un test pe browserul Firefox, Mythos a generat 181 de astfel de programe de exploatare, comparativ cu doar două ale modelului anterior, Claude Opus 4.6.

Printre vulnerabilitățile descoperite se numără erori critice, rămase nedetectate timp de ani sau chiar decenii. Un exemplu este o eroare de 27 de ani în OpenBSD, care putea provoca blocarea unui server de la distanță. O altă vulnerabilitate a fost identificată în FFmpeg, un program utilizat pe scară largă pentru prelucrarea fișierelor audio-video, unde o eroare veche de 16 ani a trecut neobservată, în ciuda a milioane de teste automate. De asemenea, au fost identificate breșe în nucleul Linux, permițând trecerea de la un cont de utilizator obișnuit la controlul deplin asupra sistemului. Costul exploatării acestor vulnerabilități a fost estimat la sub 2.000 de dolari pentru un atac complex asupra nucleului Linux.

Decizia de a Restricționa Accesul și Consorțiul Glasswing

Din cauza capabilităților sale, Anthropic a decis să nu facă modelul public, avertizând oficialii guvernamentali americani despre potențialul său de a crește numărul atacurilor cibernetice. Compania a subliniat că Mythos depășește orice alt model AI în ceea ce privește securitatea cibernetică. Pentru a explora utilizările defensive ale modelului, Anthropic a creat Project Glasswing, un consorțiu format din aproximativ 50 de organizații, inclusiv companii de tehnologie, operatori de infrastructură critică și dezvoltatori de software open-source.

Acest consorțiu a primit acces restricționat la Mythos Preview, exclusiv pentru activități defensive: identificarea și remedierea vulnerabilităților din propriile sisteme. Printre partenerii de lansare se numără Amazon Web Services, Apple, Microsoft, Google și NVIDIA. Anthropic a alocat 100 de milioane de dolari pentru creditele de utilizare a modelului pentru parteneri. Prețul de acces la Mythos Preview este de 25 de dolari per milion de „tokenuri” de intrare și 125 de dolari per milion de tokenuri de ieșire.

Următorii pași și impactul asupra industriei

Anthropic intenționează să lanseze un nou model Claude Opus, care va include mecanisme de siguranță integrate. Acesta va fi testat pentru a evalua aceste măsuri de protecție înainte de a face publice modele de aceeași clasă. Compania va lansa, de asemenea, un „Program de verificare pentru securitate cibernetică”, pentru a permite profesioniștilor din domeniu să solicite excepții de la restricțiile de siguranță.

Greg Kroah-Hartman, responsabilul pentru nucleul Linux, a remarcat că rapoartele de vulnerabilități generate de inteligența artificială au evoluat de la „zgomot generat de AI” la rapoarte reale. Daniel Stenberg, creatorul programului curl, a declarat că petrece deja ore pe zi gestionând vulnerabilități descoperite de modele AI. Thomas Ptacek, cercetător de securitate informatică, a publicat un articol intitulat „Cercetarea de vulnerabilități s-a terminat”, argumentând că modelele precum Mythos schimbă fundamental echilibrul dintre atacatori și apărători. Modelul Mythos a demonstrat performanțe superioare în diverse teste standard, inclusiv în programare, matematică și raționament științific, indicând faptul că este un model general cu abilități remarcabile.

Sursa: Ziarul Financiar