Cluj 12°C
Timișoara 13°C
Iași 11°C
Chatboții IA, un pericol ascuns: Multe sfaturi despre cancer, greșite! Pacienții, în alertă
Aproape jumătate dintre răspunsurile oferite de asistenții virtuali bazați pe inteligență artificială (IA) în legătură cu tratamentul cancerului conțin erori sau informații incomplete. Un studiu recent publicat în revista BMJ Open, o publicație științifică recunoscută, arată că aceste sisteme pot induce pacienții în eroare. Concluziile cercetării subliniază riscurile utilizării necontrolate a IA în domeniul medical, în special în ceea ce privește consilierea pacienților oncologici.
Erori și informații incomplete în răspunsurile IA
Studiul a fost realizat de cercetători de la Lundquist Institute for Biomedical Innovation, din cadrul Harbor-UCLA Medical Center. Aceștia au testat unele dintre cele mai utilizate platforme de inteligență artificială la nivel global: Grok (xAI), ChatGPT (OpenAI), Gemini (Google), Meta AI și DeepSeek. Evaluările specialiștilor oncologi au relevat că 30% dintre răspunsuri au fost considerate „parțial problematice”, iar 19,6% au fost catalogate drept „foarte problematice”. Acestea din urmă conțineau erori semnificative și lăsau loc interpretărilor subiective.
Cercetătorii au formulat întrebări concepute să conducă sistemele spre informații eronate. Au fost abordate teme frecvent vehiculate în spațiul public, precum legătura dintre tehnologia 5G sau utilizarea antiperspirantelor și cancer. De asemenea, au fost evaluate informațiile despre siguranța steroizilor anabolizanți sau riscurile vaccinurilor. Rezultatele au relevat un tipar îngrijorător.
„Echilibrul fals” – o capcană în consilierea medicală
Chatboturile au oferit inițial răspunsuri corecte, avertizând despre lipsa dovezilor științifice pentru anumite terapii alternative, dar ulterior au enumerat astfel de opțiuni. Printre acestea se numără acupunctura, medicina pe bază de plante și diete prezentate ca având efecte anticancer. În unele cazuri, sistemele au furnizat chiar referințe către clinici care promovează astfel de tratamente.
Cercetătorii atrag atenția asupra unei tendințe sistematice de a prezenta un „echilibru fals”. Platformele oferă o importanță egală surselor științifice validate și surselor nevalidate, cum ar fi bloguri sau postări din social media. Această abordare, aparent neutră, poate induce în eroare pacienții și îi poate îndepărta de tratamentele aprobate medical.
Creșterea utilizării IA în domeniul medical
Miza acestor constatări este cu atât mai mare cu cât utilizarea inteligenței artificiale pentru informații medicale este în creștere rapidă. Un sondaj Gallup arată că aproximativ unul din patru adulți din Statele Unite apelează la astfel de instrumente pentru sfaturi legate de sănătate. Această tendință se datorează în parte căutării unor răspunsuri rapide sau dificultăților de acces la servicii medicale.
Specialiștii avertizează că informațiile eronate despre terapii alternative și suplimente sunt deja răspândite în mediul online. Unele dintre aceste produse, neevaluate de autoritățile de reglementare, pot avea efecte adverse grave. În plus, utilizarea lor poate întârzia accesul la tratamentele standard, cu consecințe potențial fatale. Au fost semnalate și cazuri în care răspunsurile incorecte ale chatboților IA au generat îngrijorare inutilă în rândul pacienților, inclusiv prin estimări eronate privind prognosticul bolii.
