Google a eliminat unele dintre rezumatele sale generate de inteligență artificială (AI) privind sănătatea, după ce o anchetă a descoperit că oamenii erau expuși riscului de a fi afectați de informații false și înșelătoare. Compania a declarat că rezumatele sale AI, care utilizează inteligența artificială generativă pentru a oferi instantanee cu informații esențiale despre un subiect sau o întrebare, sunt “utile” și “fiabile”.
## Rezumatele periculoase
Însă, în realitate, unele dintre rezumate ofereau informații inexacte despre sănătate, expunând utilizatorii la riscuri. Într-un caz descris de experți ca “periculos” și “alarmant”, Google a furnizat informații false despre teste cruciale ale funcției hepatice, care puteau determina persoanele cu boli hepatice grave să creadă în mod eronat că sunt sănătoase. Introducerea termenului “care este intervalul normal pentru testele de sânge ale ficatului” genera o mulțime de cifre, fără prea mult context și fără a ține cont de naționalitatea, sexul, etnia sau vârsta pacienților.
## Consecințe și reacții
Experții au afirmat că ceea ce AI Overviews de la Google considera normal putea diferi drastic de ceea ce era considerat normal în realitate. Rezumatele puteau determina pacienții grav bolnavi să creadă în mod eronat că au un rezultat normal al testelor și să nu se mai prezinte la consultările medicale de control. După anchetă, compania a eliminat AI Overviews pentru termenii de căutare “care este intervalul normal pentru testele de sânge ale ficatului” și “care este intervalul normal pentru testele funcționale ale ficatului”. Un purtător de cuvânt al Google a declarat: “Nu comentăm eliminările individuale din cadrul căutării. În cazurile în care AI Overviews omite anumite contexte, lucrăm pentru a aduce îmbunătățiri generale și, de asemenea, luăm măsuri în conformitate cu politicile noastre, acolo unde este cazul.”
Vanessa Hebditch, directoarea de comunicare și politici la British Liver Trust, o organizație caritabilă pentru sănătatea ficatului, a declarat: “Este o veste excelentă și suntem încântați să vedem eliminarea AI Overviews de la Google în aceste cazuri.” Cu toate acestea, ea a adăugat: “Cu toate acestea, dacă întrebarea este formulată într-un mod diferit, este posibil să se afișeze în continuare o prezentare generală AI potențial înșelătoare și rămânem îngrijorați că alte informații medicale generate de AI pot fi inexacte și confuze.”
## Perspective și urmări
Sue Farrington, președinta Patient Information Forum, care promovează informații medicale bazate pe dovezi pentru pacienți, public și profesioniști din domeniul sănătății, a salutat eliminarea rezumatelor, dar a declarat că încă are îngrijorări. “Este un rezultat bun, dar este doar primul pas în ceea ce este necesar pentru a menține încrederea în rezultatele căutărilor Google legate de sănătate. Există încă prea multe exemple în care AI Overviews de la Google oferă oamenilor informații inexacte despre sănătate.” Milioane de adulți din întreaga lume se luptă deja să acceseze informații de încredere despre sănătate, a spus Farrington. Google a declarat că analizează noile exemple furnizate și că AI Overviews apare doar în cazul căutărilor pentru care are încredere ridicată în calitatea răspunsurilor. Compania măsoară și evaluează constant calitatea rezumatelor sale pentru multe categorii diferite de informații, a adăugat aceasta. În ciuda eliminării unor rezumate, experții consideră că Google are în continuare de lucru pentru a se asigura că instrumentul său de AI nu difuzează informații eronate și periculoase despre sănătate.
