Cluj 12°C
Timișoara 12°C
Constanța 7°C
AI judecă oameni și are încredere! Studiul șocant despre viitorul digital
O echipă de cercetători din Israel a descoperit că inteligența artificială (IA) dezvoltă un tip de „încredere” similară cu cea umană, dar cu diferențe notabile și potențiale riscuri, potrivit unui studiu recent. Rezultatele cercetării, publicate într-o revistă științifică de prestigiu, ridică semne de întrebare cu privire la modul în care algoritmii IA iau decizii în domenii sensibile, precum angajarea, acordarea de credite sau serviciile medicale.
Cum evaluează IA indivizii
Studiul a analizat peste 43.000 de decizii simulate pentru a înțelege modul în care sistemele IA evaluează și clasifică indivizii. Contextul cercetării a inclus acordarea de împrumuturi bancare, recrutarea și selecția personalului, dar și formularea de recomandări automate. Rezultatele au fost comparate cu răspunsurile a aproximativ 1.000 de participanți umani.
Cercetătorii au constatat că, similar oamenilor, sistemele IA tind să favorizeze persoanele percepute drept competente, oneste și bine intenționate. Această similaritate sugerează că IA reproduce unele dintre mecanismele fundamentale ale modului în care oamenii construiesc relații de încredere. Totuși, au fost identificate și diferențe semnificative.
Prejudecăți algoritmice și lipsa de nuanțe
În timp ce oamenii își construiesc impresii generale pe baza unui ansamblu complex de trăsături și percepții, sistemele IA separă trăsăturile individuale în categorii distincte. Algoritmii analizează independent factori precum competența, integritatea sau intențiile și aplică evaluări mai rigide, mai puțin nuanțate. Practic, IA funcționează printr-o sumă matematică a unor criterii prestabilite.
O preocupare majoră a cercetătorilor este faptul că inteligența artificială poate manifesta prejudecăți consistente, uneori chiar mai accentuate decât cele observate la oameni. Studiul a arătat că IA poate discrimina pe baza unor factori precum vârsta, sexul sau religia, chiar și atunci când toate celelalte informații relevante despre persoanele evaluate sunt identice. Aceste constatări ridică importante semne de întrebare asupra echității algoritmilor.
Necesitatea transparenței în procesul decizional al IA
Autorii studiului avertizează asupra necesității unei mai bune înțelegeri a modului în care sistemele IA iau decizii. Algoritmii joacă un rol din ce în ce mai important în domenii-cheie ale societății, de la angajări și finanțare până la sănătate și justiție. Lipsa transparenței în procesul decizional poate genera riscuri majore, inclusiv discriminarea algoritmică și erori sistemice în evaluarea indivizilor.
La nivel global, se discută despre reglementarea mai strictă a tehnologiilor IA pentru a preveni aceste probleme. Studiul subliniază importanța identificării și atenuării prejudecăților algoritmice, precum și a asigurării unei mai mari transparențe în modul în care IA ia decizii care ne influențează viețile.
