Chatboții dau verdicte medicale GREȘITE: 80% din pacienți, în pericol
Inteligența artificială medicală se confruntă cu dificultăți majore în diagnosticarea bolilor, mai ales în lipsa informațiilor complete despre pacienți. Un studiu recent arată că chatboții folosiți pentru diagnosticare greșesc în peste 80% din cazuri în situațiile în care datele sunt limitate. Această cercetare ridică semne de întrebare cu privire la utilizarea AI în medicină și necesită o abordare precaută.
Erori de diagnosticare în funcție de cantitatea de informații
Cercetătorii au constatat că modelele AI au performanțe scăzute când vine vorba de stabilirea unui diagnostic diferențial corect, adică luarea în considerare a mai multor posibile afecțiuni. Studiul arată că rata de eroare depășește 80% în astfel de situații. Cu alte cuvinte, majoritatea răspunsurilor generate de AI nu sunt complet corecte atunci când informațiile despre pacient sunt incomplete.
Pe de altă parte, când sistemelor AI li se oferă informații complete despre pacient, performanța crește semnificativ. Rata de eroare scade sub 40%, iar cele mai bune modele ating o acuratețe de peste 90%. Aceste rezultate sugerează că inteligența artificială este eficientă în a identifica corect o boală atunci când toate datele sunt disponibile, dar se luptă cu incertitudinea din etapele inițiale ale unei consultații.
Limitări ale inteligenței artificiale în medicină
Autorii studiului subliniază o limitare importantă a inteligenței artificiale: incapacitatea de a gestiona eficient incertitudinea caracteristică primelor etape ale unei consultații medicale. Arya Rao, autorul principal al studiului, a explicat că aceste modele „sunt foarte bune în a pune un diagnostic final atunci când au toate datele, dar se descurcă slab la începutul cazului, când informațiile sunt puține”.
Studiul, publicat în JAMA Network Open, a analizat 21 de modele AI dezvoltate de companii precum OpenAI, Google sau Anthropic. Testarea s-a bazat pe 29 de scenarii clinice reale, în care informațiile despre pacient au fost oferite treptat. Cercetătorii au urmărit acuratețea răspunsurilor la fiecare etapă, demonstrând astfel vulnerabilitățile sistemelor AI în procesul de diagnosticare.
Reacțiile companiilor de tehnologie
Reprezentanții marilor companii de tehnologie, precum Google și Anthropic, au reacționat, subliniind că modelele lor nu sunt concepute pentru a înlocui medicii. Aceste companii afirmă că sistemele lor sunt menite să ofere asistență și să direcționeze utilizatorii către specialiști. De asemenea, aplcațiile includ avertismente pentru verificarea informațiilor.
În ciuda rezultatelor încurajatoare ale unor modele AI specializate în medicină, experții atrag atenția că acestea nu pot înlocui complet evaluarea clinică umană. Diagnosticul medical depinde de observații subtile și de evaluarea holistică a pacientului. Epidemiologul Sanjay Kinra a subliniat importanța „felului în care arată și se comportă pacientul”. Până în prezent, inteligența artificială nu poate reproduce aceste aspectte umane.