Conflict la nivel înalt: Pentagonul apasă pe un startup de inteligență artificială Secretarul american al Apărării, Pete Hegseth, l-a convocat pe Dario Amodei, CEO-ul companiei de inteligență artificială Anthropic, pentru discuții

Conflict la nivel înalt: Pentagonul apasă pe un startup de inteligență artificială

Secretarul american al Apărării, Pete Hegseth, l-a convocat pe Dario Amodei, CEO-ul companiei de inteligență artificială Anthropic, pentru discuții. Motivul, conform surselor apropiate, este refuzul companiei de a permite utilizarea modelului său de AI în anumite scopuri militare, mai exact, în supravegherea în masă a populațiilor și în automatizarea atacurilor letale. Departamentul Apărării exercită presiuni considerabile asupra startup-ului, existând chiar amenințări cu rezilierea contractelor.

Restricții și negocieri pe fondul tensiunilor

Pentagonul dorește ca furnizorii săi de AI să relaxeze restricțiile privind utilizarea modelelor lor, pentru a extinde posibilele cazuri de folosire, atâta timp cât acestea rămân în limitele legii. Toți furnizorii au fost de acord, cu excepția Anthropic. Compania, fondată în 2021 de foști angajați ai OpenAI, consideră că anumite aplicații ar încălca principiile etice pe care le promovează. Un purtător de cuvânt al Anthropic a declarat că sunt „discuții productive și de bună-credință” cu secretarul Apărării, dar tensiunile par să crească.

Potrivit surselor, Pete Hegseth i-ar putea transmite lui Dario Amodei un ultimatum. Dacă Anthropic nu cedează, ar putea pierde un contract de 200 de milioane de dolari semnat în iunie, dar și alte potențiale contracte importante cu guvernul american. De asemenea, Departamentul Apărării ar putea fi afectat, întrucât modelul de AI Claude, dezvoltat de Anthropic, este singurul utilizat pentru operațiuni de apărare clasificate.

Posibile repercusiuni și riscuri implicate

Departamentul Apărării a amenințat că va include Anthropic pe lista companiilor care prezintă „un risc pentru aprovizionare”. Companiile de pe această listă se confruntă cu restricții severe privind contractele cu administrația SUA, fiind vorba, în general, de companii ale căror produse ar putea fi folosite pentru a amenința securitatea națională. În prezent, pe această listă se află doar companii străine, precum Huawei și Kaspersky.

Anthropic a fost mereu vocală în ceea ce privește o abordare etică a inteligenței artificiale, publicând chiar un document care detaliază instrucțiuni date AI-ului Claude pentru a controla producția și a preveni acțiuni care prezintă „pericol necorespunzător”.

În urma convorbirilor, nu există o înțelegere publică cu privire la rezultatul întâlnirii.

Sursa: Digi24