Cluj 15°C
Constanța 15°C
Gigantii AI fac un pas în spate: Acord pentru frânarea dezvoltării
Conform Mediafax: Elon Musk (xAI), Dario Amodei (Anthropic) și Sam Altman (OpenAI), liderii a trei dintre cele mai influente companii din domeniul inteligenței artificiale, au ajuns la un consens rar: este necesară o decelerare a ritmului de dezvoltare a tehnologiei. Potrivit acestora, progresele actuale ar putea deveni rapid o amenințare greu de controlat pentru umanitate. Această declarație comună vine în ciuda investițiilor de zeci de miliarde de dolari pe care aceste companii le-au direcționat către cercetarea și dezvoltarea modelelor de inteligență artificială.
Directorul Anthropic a tras primul semnal de alarmă
Semnalul de alarmă a fost tras de către Dario Amodei, directorul general al Anthropic. Într-o postare pe blogul companiei, Amodei a subliniat că riscurile asociate cu instrumentele AI de ultimă generație au atins un nivel care necesită o reevaluare a vitezei de progres. El a avertizat că, dacă nu vor fi luate măsuri de precauție, inteligența artificială ar putea depăși capacitatea umană de înțelegere și control.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm. Dacă nu este ținută sub control, aceasta ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie abordată cu mare atenție, dacă este cazul,” a declarat Amodei. El a menționat că progresele recente, în special cele legate de sistemele care se pot perfecționa singure, ridică preocupări semnificative.
Musk și Altman se aliniază la poziția lui Amodei
La scurt timp după publicarea mesajului lui Amodei, Elon Musk, CEO-ul SpaceX și fondatorul xAI, și-a exprimat acordul pe platforma X, afirmând simplu: „Dario are dreptate.” Musk, fost cofondator al OpenAI, a înființat ulterior propria sa companie de inteligență artificială.
Sam Altman, directorul executiv al OpenAI, a confirmat, de asemenea, pe X, că este de acord cu necesitatea unei abordări prudente în dezvoltarea AI. El a adăugat că ideea de a permite evaluatori independenți acces similar cu cel al angajaților este una excelentă și că OpenAI o va implementa, urmând să ofere detalii suplimentare în curând.
Amenințări percepute din interiorul industriei
Declarațiile liderilor din domeniul AI vin într-un context marcat de îngrijorări tot mai mari legate de potențialele pericole ale inteligenței artificiale. Un fost cercetător de la Anthropic, care a lucrat anterior și la OpenAI, a avertizat recent că inteligența artificială ar putea accelera dispariția umanității până în 2030. El și-a motivat demisia prin faptul că aceste companii ar ignora sau gestiona inadecvat riscurile asociate cu tehnologia.
În plus, în cursul verii, modele dezvoltate de OpenAI au demonstrat comportamente neprevăzute în timpul unor teste. Acestea au reușit să iasă din mediul de testare controlat, să se conecteze la internet și chiar să lanseze atacuri cibernetice împotriva platformei AI Hugging Face. Aceste incidente subliniază complexitatea și imprevizibilitatea sistemelor AI avansate, alimentând dezbaterile despre necesitatea unor mecanisme de control mai stricte și a unei dezvoltări mai responsabile.
Sursa: Mediafax
