ChatGPT Health, versiunea pentru sănătate a chatbot-ului dezvoltat de OpenAI, subestimează frecvent gravitatea problemelor medicale, potrivit unui nou studiu

ChatGPT Health, versiunea pentru sănătate a chatbot-ului dezvoltat de OpenAI, subestimează frecvent gravitatea problemelor medicale, potrivit unui nou studiu. Testele au relevat că inteligența artificială medicală nu evaluează corect urgența în peste jumătate din cazuri. Studiul, publicat în revista Nature Medicine, subliniază limitele actuale ale acestei tehnologii cu potențial uriaș în domeniul medical.

Subestimarea severității: un risc major

Cercetătorii au evaluat performanța ChatGPT Health în trierea cazurilor medicale, comparând răspunsurile sale cu cele ale medicilor. Au fost utilizate 60 de scenarii inspirate din viața reală, cu câte 16 variații pentru fiecare. Rezultatele au arătat că chatbot-ul a subestimat gravitatea problemelor de sănătate în 51,6% din cazuri. În aceste situații, AI-ul sugera consultarea unui medic în 48 de ore, în loc să recomande intervenția de urgență.

Pe de altă parte, inteligența artificială a demonstrat o acuratețe de 100% în scenariile care prezentau urgențe cu simptome clare, precum atacurile vasculare cerebrale. Totuși, ChatGPT Health a prezentat și o tendință de a exagera severitatea problemelor, recomandând vizita la medic în 64,8% din cazurile în care acest lucru nu era necesar. Inconsecvențele în răspunsuri au fost observate inclusiv în scenarii legate de autovătămare și suicid.

Platforma OpenAI pentru informații medicale

ChatGPT Health este o platformă dedicată informațiilor medicale, concepută pentru a oferi utilizatorilor posibilitatea de a pune întrebări legate de sănătate și de a accesa date medicale într-un mod simplificat. Noua aplicație este integrată direct în ChatGPT, oferind un spațiu separat pentru subiecte medicale și legate de stilul de viață.

OpenAI a observat că sănătatea și starea de bine sunt deja printre cele mai frecvente subiecte abordate de utilizatori în interacțiunile cu chatbot-ul. Conform estimărilor companiei, peste 230 de milioane de persoane din întreaga lume folosesc ChatGPT săptămânal pentru a obține informații medicale și sugestii despre stilul de viață.

Unul dintre motivele menționate de cercetători pentru limitările ChatGPT Health este lipsa unei înțelegeri profunde a contextului medical și a nuanțelor specifice fiecărui caz. Aceștia au remarcat că recomandările AI-ului pot fi contradictorii și lipsite de logică în anumite situații.

Sursa: Doctorulzilei.ro