Contact de încredere pentru suport în caz de criză mintală

ChatGPT se adaptează la presiunea publică: Noua funcție a OpenAI vizează prevenirea crizelor de sănătate mintală

OpenAI, compania din spatele popularului chatbot ChatGPT, introduce o nouă funcție care le va permite utilizatorilor să desemneze un „contact de încredere”. Scopul este de a oferi sprijin suplimentar celor care ar putea avea nevoie de ajutor în urma interacțiunilor cu inteligența artificială, marcând o schimbare de ton în comunicarea companiilor de AI, care încep să abordeze efectele negative ale tehnologiilor lor. Anunțul vine pe fondul presiunii publice crescute, dar și al unor acuzații legate de utilizatori care spun că au intrat în stări de delir sau au avut gânduri suicidare după interacțiuni prelungite cu ChatGPT.

Un răspuns la procese și îngrijorări

Decizia OpenAI de a implementa această funcție nu este întâmplătoare. Compania se confruntă cu un număr tot mai mare de procese și îngrijorări legate de siguranța consumatorilor și chiar decese potențial legate de utilizarea chatbotului. În acest context, abordarea anterioară, axată exclusiv pe inovație și progres tehnologic, nu mai este suficientă. Noua funcție face parte dintr-o actualizare mai amplă, menită să abordeze problematici legate de sănătatea mintală. OpenAI colaborează cu structuri interne și grupuri de experți pentru a oferi o plasă de siguranță utilizatorilor adulți aflați în situații vulnerabile.

Cu toate acestea, modul în care noua funcție va funcționa ridică semne de întrebare. Compania nu a precizat clar ce criterii vor fi folosite pentru a determina dacă un utilizator „ar putea avea nevoie de sprijin”. Această lipsă de detalii poate genera o serie de dileme. Stabilirea unor praguri prea ridicate ar putea face funcția inutilă, în timp ce setarea lor la un nivel prea scăzut ar putea duce la alarme false, încălcări ale confidențialității și, implicit, la erodarea încrederii în sistem.

AI-ul ca spațiu emoțional și implicațiile sale

Un aspect important al acestei evoluții este modul în care utilizatorii interacționează cu ChatGPT. Mulți nu îl folosesc doar ca un instrument, ci ca pe un spațiu emoțional. AI-ul oferă accesibilitate, disponibilitate constantă și o ușurință în exprimare pe care terapia tradițională nu o are. Unii utilizatori pot ajunge să împărtășească gânduri intime, temeri și confuzii, tocmai pentru că se simt mai confortabil să facă acest lucru cu un bot decât cu o persoană reală. Acesta este deopotrivă punctul forte și o sursă de risc.

Funcția „contactului de încredere” poate ajuta, dar riscă să îi ocolească pe cei care au cea mai mare nevoie de sprijin. Dacă utilizatorul nu activează opțiunea, iar sistemul detectează semnale îngrijorătoare, rămâne întrebarea: ce face compania cu aceste informații? Intervine, le stochează sau trimite avertismente? În plus, faptul că aceste stări afectează inclusiv persoane fără diagnostice psihiatrice complicate mărește complexitatea problemei. OpenAI raportează sute de milioane de utilizatori săptămânal, ceea ce sugerează că chiar și un procent mic de cazuri sensibile ar putea genera un volum uriaș de situații dificil de gestionat.

Între reacție și anticipare

Critica cea mai semnificativă este că OpenAI pare să răspundă presiunii publice și efectelor negative, mai degrabă decât să fi anticipat riscurile. Atenționările privind potențialele efecte negative asupra sănătății mintale nu au fost la fel de proeminente ca promovarea utilizării AI-ului conversațional. Companiile de tehnologie, psihologii și cercetătorii nu au încă un consens cu privire la modul optim de intervenție.

Deși funcția propusă reprezintă un pas pozitiv, nu rezolvă problema de fond. Este clar că OpenAI reacționează după ce au fost raportate cazuri grave, procese și presiune publică, nu că ar fi anticipat amploarea acestui risc. Astfel, simplul fapt că OpenAI lucrează la un astfel de sistem scoate în evidență o întrebare majoră: ce responsabilități are un produs AI când, pentru unii utilizatori, acesta devine un însoțitor constant în momente de vulnerabilitate?

Sursa: Playtech.ro