Cluj 14°C
AI scapă de sub control? Altman: „Navigăm în ape necunoscute”
Conform Digi24: Inteligența artificială devine tot mai greu de supravegheat, pe măsură ce capătă abilități supraomenești, avertizează liderii companiilor AI
Modelele de inteligență artificială (AI) ating noi culmi de performanță, însă acest progres aduce cu sine o provocare majoră: devine tot mai dificil pentru cercetători să înțeleagă și să urmărească modul în care acestea iau decizii. Fenomenul stârnește îngrijorări chiar în interiorul marilor companii care dezvoltă tehnologia, mai ales că unele modele ajung deja la capacități descrise drept „supraomenești”.
OpenAI a lansat recent GPT-6 Astra, un model despre care președintele companiei, Greg Brockman, sugerează că ar putea marca începutul inteligenței artificiale generale (AGI). Astra nu numai că îmbunătățește performanța, dar pare să fie și mai abilă în a evita monitorizarea directă, complicând astfel procesul de înțelegere a funcționării sale interne.
Liderii OpenAI trag semnale de alarmă
Sam Altman, CEO-ul OpenAI, a declarat săptămâna aceasta pentru Axios că modelele AI devin „supraomenești” în anumite privințe, afirmând că organizația „navighează pur și simplu în ape necunoscute”. Aceste declarații subliniază o preocupare tot mai accentuată la nivel înalt în industria AI.
Dincolo de declarațiile publice, liderii celor mai importante companii de inteligență artificială își exprimă propriile temeri legate de tehnologia pe care o dezvoltă, tocmai în momentul în care acțiunile modelelor devin tot mai greu de descifrat.
OpenAI, alături de Anthropic și alte peste 100 de companii, a avertizat că timpul pentru pregătirea în fața unor potențiale atacuri cibernetice asupra infrastructurii critice, facilitate de inteligența artificială, este pe cale să se epuizeze. Altman a menționat pentru Axios dificultățile pe care le întâmpină Congresul american în reglementarea unei tehnologii în continuă și rapidă evoluție.
„Am discutat cu unele organizații externe despre posibile standarde concrete pe care le-am putea introduce”, a declarat Jakub Pachocki, cercetătorul-șef al OpenAI, adăugând că organizația lucrează și la consolidarea propriilor proceduri interne.
Transparența, tot mai greu de atins
În așteptarea unor cadre de reglementare clare, modelele AI devin, pe zi ce trece, mai greu de descifrat. Jakub Pachocki a explicat pentru jurnaliști că, în timp, va deveni din ce în ce mai dificil să fie monitorizate procesele de raționament ale modelelor AI.
The Information a relatat recent că cel mai nou model OpenAI ar fi utilizat o tehnică inovatoare pentru a-și îmbunătăți performanțele, tehnică ce ar fi putut, de asemenea, să reducă transparența proceselor sale de raționament. OpenAI contestă însă această informație.
O analiză recentă a unui incident cibernetic în care un model OpenAI a obținut acces la biblioteca de inteligență artificială Hugging Face pentru a-și asigura succesul la un test de evaluare, a scos în evidență o altă problemă: agenții AI generează un volum atât de mare de activitate încât oamenii nu îi pot monitoriza eficient fără ajutorul altor sisteme AI.
Sydney Von Arx, cercetătoare în domeniul siguranței AI și fondatoarea organizației nonprofit Nightingale, a descris această lipsă de vizibilitate asupra proceselor de raționament ale modelelor ca fiind o problemă mai importantă decât incidentul Hugging Face.
Îngrijorări legate de deciziile „ascunse” ale AI
Există temeri că, în timp, procesele de raționament ale unui model AI ar putea avea loc într-un strat ascuns, permițându-i să desfășoare acțiuni potențial periculoase fără ca oamenii să aibă habar.
OpenAI susține că situația nu este aceasta în cazul modelului Astra: deși acesta își expune raționamentul în scris mai rar decât modelele anterioare, compania afirmă că acest lucru nu a fost un rezultat intenționat al dezvoltării. Indiferent de cauză, dacă modelele își exteriorizează mai puțin procesele de raționament, cercetătorii se tem că monitorizarea comportamentului lor va deveni considerabil mai dificilă.
Inteligența artificială devine astfel tot mai greu de supravegheat, iar chiar și liderii care ghidează dezvoltarea acestei tehnologii solicită sprijin pentru gestionarea și monitorizarea riscurilor asociate.
Sursa: Digi24
