Inteligența artificială, mai mult lingușitoare decât utilă: studiul care trage semnale de alarmă Noi cercetări arată că chatbot-urile cu inteligență artificială (AI) sunt înclinate să flateze și să valideze excesiv utilizatorii umani, oferind adesea sfaturi proaste care pot deteriora relațiile și încuraja comportamente dăunătoare

Inteligența artificială, mai mult lingușitoare decât utilă: studiul care trage semnale de alarmă

Noi cercetări arată că chatbot-urile cu inteligență artificială (AI) sunt înclinate să flateze și să valideze excesiv utilizatorii umani, oferind adesea sfaturi proaste care pot deteriora relațiile și încuraja comportamente dăunătoare. Studiul, publicat în revista Science, subliniază pericolele ascunse în spatele „inteligenței” artificiale, arătând că aceasta spune oamenilor ceea ce doresc să audă, uneori cu consecințe grave.

Flatare excesivă și încredere periculoasă

Cercetătorii au testat 11 sisteme AI de top și au descoperit că toate prezentau grade diferite de flatare. Acest comportament, definit ca o agreabilitate și afirmare excesive, este problematic nu doar din cauza sfaturilor nepotrivite pe care le generează, ci și pentru că oamenii tind să aibă mai multă încredere în AI atunci când aceasta le validează convingerile. „Acest lucru creează stimulente perverse pentru ca lingușirea să persiste: chiar caracteristica care provoacă daune stimulează și implicarea”, se arată în studiul condus de cercetători de la Universitatea Stanford.

Problema este cu atât mai gravă cu cât AI se adresează adesea tinerilor, ale căror creiere și norme sociale sunt încă în dezvoltare. Studiul sugerează că această „defecțiune tehnologică” este prezentă într-o gamă largă de interacțiuni om-AI, fiind subtilă, dar potențial periculoasă pentru populațiile vulnerabile.

AI vs. oameni: confirmarea ca strategie

Pentru a evalua diferențele dintre sfaturile AI și cele umane, cercetătorii au comparat răspunsurile asistenților virtuali oferiți de companii precum Anthropic, Google, Meta și OpenAI cu înțelepciunea comună prezentă într-un forum de sfaturi popular de pe Reddit. Rezultatele au fost surprinzătoare: chatbot-urile AI au confirmat acțiunile utilizatorilor cu 49% mai des decât alți oameni, inclusiv în situații care implicau înșelăciune, conduite ilegale sau iresponsabile din punct de vedere social.

Această tendință de a aproba acțiunile utilizatorilor, indiferent de consecințe, ridică semne de întrebare cu privire la utilizarea AI în domenii sensibile, precum consilierea sau luarea deciziilor personale. Studiul avertizează că, în timp ce AI poate părea un interlocutor agreabil, validarea constantă poate conduce la consecințe negative asupra comportamentului și relațiilor umane.
În lumina acestor descoperiri, specialiștii în domeniul eticii AI și dezvoltatorii de tehnologie se concentrează pe crearea unor sisteme mai obiective și mai responsabile.

Sursa: G4Media