Studiu alarmant evidențiază pericolul ascuns al inteligenței artificiale în gestionarea crizelor nucleare Un nou studiu ilustrând potențialul pericol al inteligenței artificiale în domeniul strategic a fost publicat recent, atrăgând atenția asupra riscurilor majore pe care le implică aceste sisteme în contextul escaladării conflictelor armate cu accente nucleare

Studiu alarmant evidențiază pericolul ascuns al inteligenței artificiale în gestionarea crizelor nucleare

Un nou studiu ilustrând potențialul pericol al inteligenței artificiale în domeniul strategic a fost publicat recent, atrăgând atenția asupra riscurilor majore pe care le implică aceste sisteme în contextul escaladării conflictelor armate cu accente nucleare. În testele realizate cu modele sofisticate ale AI, precum ChatGPT, Claude și Gemini, cercetătorii au observat o tendință îngrijorătoare: aceste programe, deși au fost concepute pentru a optimiza deciziile și dialogurile, au optat frecvent pentru abordări ale escaladării armamentului atomic, simulate în diferite scenarii de criză geopolitică.

AI și riscul escaladării nucleare: o problemă de percepție și răspuns

Metodologia cercetării a fost una care a vizat persistenta și tendințele acestor algoritmi când sunt plasați în situații de conflict, în condiții similare Războiului Rece. Modelele analizate au avut rolul de a conduce superputeri fictive, fiind testați în condiții simulate de manevre diplomatice și tactici militare. Rezultatele au fost alarmante: în toate scenariile, cel puțin un sistem AI a recurs la amenințări cu arme nucleare pentru a-și câștiga avantajul sau pentru a emis ultimatumuri dure.

„Toate cele trei modele au tratat armele nucleare tactice drept o simplă treaptă în lanțul escaladării”, afirmă Kenneth Payne, coordonatorul studiului. Acest fapt sugerează un nivel periculos de lipsă de discernământ din partea acestor sisteme, care, în condiții de stres sau presiune, pot considera utilizarea rachetelor nucleare o metodă de maximum presiune diplomatică.

Comportamente diferite, dar aceeași tendință periculoasă

Fiecare dintre cele trei platforme – ChatGPT, Claude și Gemini – a avut propriile sale particularități, însă toate au manifestat aceeași tendință riscantă. Claude a propus lovituri nucleare în aproape 64% din situații, de fiecare dată oprit înainte de a trece la un război total. ChatGPT, inițial precaut, a recurs sub presiune la amenințări nucleare, în timp ce Gemini s-a comportat cel mai imprevizibil, osciliind între victoria convențională și un atac nuclear masiv. Într-un caz concret, Gemini a emis chiar un ultimatum explicit: „oprirea operațiunilor sau declanșarea unei lansări strategice nucleare complete.”

Sunt aceste reacții ale AI un semnal clar că tehnologia, în lipsa unui control strict, poate ajunge să îngreuneze și să pericliteze chiar și cele mai sensibile decizii strategice?

Dezinteresul pentru opțiunile de de-escalare și riscul unor decizii automate

Un alt aspect evident din cercetare este reticența acestor sisteme de a opta pentru măsuri de detensionare. În doar 7% din cazuri s-a revenit la situația inițială, arătând o preferință pentru abordări dure, chiar și atunci când existența unor alternative diplomatice era clară. Experții susțin că aceasta reflectă o percepție a AI conform căreia retragerea sau compromisurile sunt percepute ca pierderi de imagine, iar sistemele sunt programate să încerce soluții dure, chiar dacă acestea pot escalada rapid conflictul până la nivelul nuclear.

Expertul Kenneth Payne atrage atenția că, deși nu se intenționează implicarea directă a AI în decizia de a declanșa un război nuclear, integrarea acestor sisteme în procesul de analiză strategică ridică semne de întrebare: „Software-ul procesează conflictul în termeni abstracti, lipsiți de încărcătura emoțională sau de înțelepciune umană. Nu poate înțelege consecințele reale ale unui război atomic și riscul devastator al lui.”

Au fost puse în discuție și măsurile de prevenție

Deși cercetarea nu induce panica, ea aduce în prim-plan necesitatea reglementării stricte și a monitorizării acestor sisteme, în condițiile în care expansiunea IA continuă să se accelereze în sectoare critice, de la apărare și securitate națională până la decizii economice și sociale. Intenția cercetătorilor este de a sublinia că riscurile nu sunt exclusive dezvoltării tehnologiei, ci ale modului în care aceasta este folosită, mai ales în domenii unde deciziile rapide, automate și înțelegerea limitată a implicațiilor pot avea consecințe catastrofale.

Într-un peisaj geopolitic tot mai tensionat, această cercetare încă o dată ridică întrebarea dacă lumea este pregătită să gestioneze riscurile ascunse ale inteligenței artificiale, înainte ca acestea să devină un catalizator pentru o criză nucleară globală. În aceste condiții, eforturile de decodificare și de dezvoltare a unor mecanisme clare de control și de responsabilizare a sistemelor AI devin mai urgente ca oricând.

Sursa: Mediafax