ChatGPT și alți consilieri IA, ineficienți în domeniul sănătății mintale Modelele lingvistice de mari dimensiuni (LLM), precum ChatGPT, ar putea să nu fie pregătite să ofere sfaturi în domeniul sănătății mintale, în ciuda cererii crescute din partea publicului

ChatGPT și alți consilieri IA, ineficienți în domeniul sănătății mintale

Modelele lingvistice de mari dimensiuni (LLM), precum ChatGPT, ar putea să nu fie pregătite să ofere sfaturi în domeniul sănătății mintale, în ciuda cererii crescute din partea publicului. Un studiu recent sugerează că aceste chatboturi bazate pe inteligență artificială nu respectă standardele de etică profesională impuse de organizații precum American Psychological Association. Cercetările au evidențiat o serie de probleme, de la gestionarea inadecvată a situațiilor de criză până la afișarea unei empatiei false.

În cadrul testelor, chatbot-urile au dat răspunsuri care consolidau convingerile dăunătoare ale utilizatorilor și au folosit un limbaj care crea impresia de înțelegere emoțională, fără a oferi o susținere reală. Studiul a inclus analize detaliate ale interacțiunilor simulate între pacienți și modelele de inteligență artificială, urmate de evaluări efectuate de psihologi clinicieni autorizați. Scopul a fost evaluarea potențialului acestor sisteme de a înlocui sau suplimenta serviciile de consiliere tradiționale.

Riscuri etice și limitele prompturilor

Studiul a identificat 15 riscuri etice distincte, grupate în cinci categorii principale. Acestea includ lipsa adaptării contextuale, colaborarea terapeutică defectuoasă, empatia înșelătoare, discriminarea nedreaptă și lipsa de siguranță în gestionarea crizelor. Unul dintre aspectele critice examinate a fost rolul prompturilor. Prompturile reprezintă instrucțiuni concise oferite modelelor de inteligență artificială pentru a ghida comportamentul acestora și a obține rezultate specifice.

„Prompturile sunt instrucțiuni date modelului pentru a-i ghida comportamentul în vederea realizării unei sarcini specifice. Nu schimbați modelul de bază și nu furnizați date noi, dar promptul ajută la ghidarea rezultatelor modelului pe baza cunoștințelor sale preexistente și a modelelor învățate”, a explicat Zainab Iftikhar, doctorand în informatică la Brown și conducătorul studiului. Cercetătorii au investigat dacă prompturile pot îmbunătăți comportamentul etic al inteligenței artificiale în domeniul sănătății mintale, însă rezultatele au arătat limitele acestei abordări.

Probleme legate de reglementare și supraveghere

Concluziile studiului subliniază necesitatea unor standarde etice, educaționale și juridice pentru consilierii LLM, care să reflecte calitatea și rigoarea îngrijirii necesare în psihoterapie. Iftikhar a subliniat diferența majoră între terapeuții umani și modelele de inteligență artificială: „În cazul terapeuților umani, există consilii de administrație și mecanisme prin care furnizorii pot fi trași la răspundere profesională pentru maltratare și malpraxis. Dar când consilierii LLM comit aceste încălcări, nu există cadre de reglementare stabilite”.

Acest aspect ridică semne de întrebare cu privire la protecția utilizatorilor și la responsabilitatea în cazul în care consilierea bazată pe inteligență artificială duce la rezultate negative. Recent, mai multe companii specializate în soluții de sănătate mintală bazate pe inteligență artificială au anunțat planuri de extindere a serviciilor lor, ceea ce ar putea amplifica impactul acestor aspecte.

Sursa: Descopera