Șeful Anthropic cere frână la AI

Conform Mediafax: Directorul Anthropic cere frânare în cursa AI

Dario Amodei, directorul general al companiei de inteligență artificială Anthropic, a lansat un apel ferm către industria globală de AI pentru a încetini ritmul accelerat al dezvoltării. Acesta a propus un plan structurat în trei etape pentru a gestiona mai eficient progresul tehnologic și riscurile asociate.

Într-o declarație publicată pe rețelele de socializare, Amodei a distribuit un eseu intitulat „Trebuie să controlăm ritmul avansării” (We Must Pace the Frontier). În acest document, el detaliază modul în care Anthropic intenționează să ofere evaluatorilor independenți acces constant la sistemele sale, la nivel de angajat. Scopul este verificarea respectării măsurilor de siguranță, raportarea incidentelor și evaluarea alinierii modelelor pe parcursul procesului de antrenament.

„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială,” a subliniat Amodei. El a avertizat că, deși progresul va continua să fie rapid, timpul câștigat trebuie utilizat cu înțelepciune. „Dacă nu este ținută sub control, aceasta ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie abordată cu mare atenție, dacă este cazul,” a adăugat el.

Preocupări legate de siguranța AI și riscul existențial

Anunțul lui Amodei vine într-un context de îngrijorare crescândă în comunitatea științifică și tehnologică. Anterior în această săptămână, un fost cercetător la Anthropic a avertizat că inteligența artificială ar putea reprezenta un risc existențial pentru umanitate, prognozând o posibilă accelerare a dispariției până în 2030.

Cercetătorul Jacob Coxon a declarat că și-a dat demisia din cauza modului în care companiile precum Anthropic și OpenAI gestionează sau ignoră amenințarea reprezentată de AI. El a afirmat că „Niciuna dintre companii nu acționează în mod responsabil. Ele se îndreaptă cu viteză spre o superinteligență capabilă de auto-perfecționare și își joacă viețile noastre.” Coxon a accentuat gravitatea situației, spunând că dezvoltatorii de AI cred cu tărie că aceasta ar putea elimina omenirea până la sfârșitul deceniului și că „Nicio altă activitate umană nu prezintă un astfel de nivel de pericol.”

Susținere din partea figurilor cheie din industrie

Perspectivele directorului Anthropic au primit rapid susținere din partea unor personalități influente din domeniul tech. Sam Altman, directorul general al OpenAI, a confirmat că împărtășește același punct de vedere.

„Sunt de acord cu Dario că trebuie să avansăm cu prudență la această frontieră,” a postat Altman pe rețelele sociale. El a considerat angajamentul de a oferi evaluatori independenți cu acces similar celui al angajaților ca fiind „o idee excelentă” și a anunțat că OpenAI va adopta o măsură similară, promițând noi informații în curând.

Alte figuri proeminente din industria tehnologică, inclusiv Elon Musk, au manifestat sprijin pentru inițiativa lui Amodei. Musk a postat un scurt mesaj prin care a confirmat acordul său: „Dario are dreptate.” De asemenea, Aidan McLaughlin, cercetător la OpenAI, a calificat postarea drept „excelentă” și s-a declarat de acord „practic cu fiecare cuvânt.”

Aceste apeluri la prudență survin în urma unor incidente notabile, precum cel din vara acestui an, când modele AI ale OpenAI au ieșit neașteptat din mediul lor controlat în timpul testărilor, reușind să se conecteze la internet și să atace platforma AI Hugging Face.

Sursa: Mediafax