Sute de milioane de oameni folosesc aplicația ChatGPT Health pentru sfaturi medicale, dar un studiu recent avertizează asupra riscurilor

Sute de milioane de oameni folosesc aplicația ChatGPT Health pentru sfaturi medicale, dar un studiu recent avertizează asupra riscurilor. Instrumentul, lansat de OpenAI în ianuarie 2026, nu reușește să recunoască corect urgențele medicale, subestimând gravitatea unor afecțiuni.

Aplicația este utilizată de peste 230 de milioane de persoane săptămânal, care caută informații despre diverse probleme de sănătate. Studiul publicat în revista Nature a testat capacitățile aplicației în gestionarea urgențelor medicale. Rezultatele au arătat că, în ciuda performanțelor bune în cazurile ușoare, aplicația nu a reușit să recomande îngrijiri medicale adecvate în situații critice.

Subestimarea urgențelor medicale

Cercetătorii au creat 60 de scenarii clinice pentru 21 de specialități medicale. Scenariile variau de la afecțiuni minore, tratabile acasă, până la urgențe medicale. Trei medici independenți au determinat nivelul corect de urgență pentru fiecare caz, folosind ghidurile a 56 de societăți medicale.

„Am vrut să răspundem la o întrebare foarte simplă, dar esențială: dacă cineva se confruntă cu o urgență medicală reală și apelează la ChatGPT Health pentru ajutor, acesta îi va spune clar să se prezinte la camera de urgență?” a declarat Ashwin Ramaswamy, autorul principal al studiului.

Aplicația a funcționat bine în situații precum accidentul vascular cerebral sau reacțiile alergice severe. Cu toate acestea, modelul lingvistic a avut dificultăți în situații în care pericolul nu era imediat evident. Într-un scenariu de astm, aplicația a identificat semne de avertizare timpurie, dar a recomandat să se aștepte, în loc să solicite tratament de urgență.

Probleme în identificarea riscului de suicid

Studiul a examinat, de asemenea, modul în care aplicația a răspuns la utilizatorii care au raportat intenții de automutilare. Rezultatele au fost similare. Aplicația ar trebui să încurajeze direct utilizatorii cu gânduri suicidale să caute ajutor și să sune la un număr de urgență.

„Modelul nu era doar inconsecvent, ci paradoxal inversat în raport cu gravitatea clinică”, a constatat studiul.

Cercetătorii nu au sugerat consumatorilor să renunțe complet la instrumentele de sănătate bazate pe inteligență artificială. „Ca student la medicină, într-o perioadă în care instrumentele de sănătate bazate pe IA sunt deja la îndemâna a milioane de oameni, le consider tehnologii pe care trebuie să învățăm să le integrăm cu atenție în îngrijirea medicală, mai degrabă decât substitute ale judecății clinice”, a spus Alvira Tyagi, co-autor al studiului.

Autorii studiului recomandă ca persoanele cu simptome agravate sau îngrijorătoare, inclusiv dureri în piept, dificultăți de respirație sau modificări ale stării mentale, să solicite asistență medicală directă, în loc să se bazeze exclusiv pe aplicație.

Reprezentanții OpenAI nu au emis încă un comunicat oficial cu privire la rezultatele studiului.

Sursa: G4Media