Chatbotul ChatGPT Health, un pericol în diagnosticarea medicală Un studiu recent publicat în revista Nature Medicine arată că versiunea specializată în sănătate a chatbot-ului ChatGPT, denumită ChatGPT Health, subestimează frecvent gravitatea problemelor medicale

Chatbotul ChatGPT Health, un pericol în diagnosticarea medicală

Un studiu recent publicat în revista Nature Medicine arată că versiunea specializată în sănătate a chatbot-ului ChatGPT, denumită ChatGPT Health, subestimează frecvent gravitatea problemelor medicale. În peste jumătate dintre cazuri, platforma nu a recomandat pacienților să se prezinte la spital, chiar și atunci când era necesar din punct de vedere medical. Experții avertizează că aceste erori pot conduce la vătămări inutile sau chiar la decese.

Cercetătorii au testat capacitatea ChatGPT Health de a tria cazurile medicale, folosind scenarii inspirate din viața reală. Răspunsurile chatbot-ului au fost comparate cu cele ale medicilor, bazându-se pe regulile și expertiza clinică, în 60 de scenarii diferite, cu câte 16 variații pentru fiecare. Rezultatele au arătat că ChatGPT Health a subestimat gravitatea problemelor în 51,6% din cazuri, recomandând consult medical în 48 de ore, în loc de prezentare directă la urgențe.

Pe de altă parte, chatbot-ul a reușit să facă triajul corect în 100% din cazurile de urgențe cu simptome clare, precum atacurile vasculare cerebrale. Totuși, inteligența artificială a prezentat probleme și în sens invers, exagerând severitatea în 64,8% din cazuri și sugerând prezentarea la un medic fără a fi necesar.

Erori majore în scenarii critice

Studiul a scos la iveală erori îngrijorătoare în gestionarea unor situații medicale importante. Într-o simulare, chatbot-ul a recomandat unei femei ce se sufoca să își facă o programare la medic, în loc să o îndrume către camera de gardă. Cercetătorii au subliniat efectele potențial tragice ale unei astfel de recomandări.

Alex Ruani, cercetător doctoral la University College London, a descris rezultatele ca fiind „incredibil de periculos”. Ea a adăugat că „dacă suferi de insuficiență respiratorie sau cetoacidoză diabetică, ai o șansă de 50% ca acest AI să îți spună că nu este ceva grav”. Totodată, Ruani a explicat că o „falsă senzație de siguranță” poate pune vieți în pericol.

Probleme în detectarea ideilor suicidare

Un alt aspect îngrijorător relevat de studiu este ineficiența ChatGPT Health în identificarea ideilor suicidare. Dr. Ashwin Ramaswamy, autorul principal al studiului, a menționat că platforma nu a reușit să ofere asistență adecvată în cazul pacienților cu gânduri suicidare.

Testele au arătat că, în scenarii în care pacienții menționau intenții suicidare, chatbot-ul oferea un banner cu link-uri către servicii de asistență. Însă, odată ce s-au adăugat rezultate normale de laborator, același pacient, cu aceleași cuvinte și aceeași gravitate, nu a mai primit niciun fel de asistență din partea platformei.

Un purtător de cuvânt al OpenAI, compania dezvoltatoare a ChatGPT, a declarat că cercetarea nu reflectă modul în care oamenii folosesc platforma în viața reală și că modelul este actualizat constant. Cu toate acestea, cercetarea și descoperirile au ridicat semne de întrebare cu privire la siguranța și fiabilitatea instrumentelor bazate pe inteligența artificială, în special în domeniul medical.

Sursa: Digi24