Google și AI: Milioane de răspunsuri greșite în fiecare oră

Inteligența Artificială (AI) generativă, deși promite o revoluție tehnologică, se confruntă cu o problemă majoră: acuratețea. Funcția „AI Overview” a Google, care oferă rezumate generate de AI în rezultatele căutărilor, afișează erori într-un procent semnificativ din cazuri, generând sute de mii de răspunsuri discutabile zilnic, în ciuda promisiunilor inițiale.

Erori Semnificative în Răspunsurile AI

Un studiu recent indică faptul că „AI Overview” oferă răspunsuri corecte în aproximativ 90% din cazuri. Cu toate acestea, având în vedere volumul impresionant de căutări procesate de Google, această rată de eroare de 10% se traduce în zeci de milioane de răspunsuri potențial greșite. Aceste erori sunt cu atât mai îngrijorătoare cu cât „AI Overview” este afișat în partea de sus a paginii de rezultate, sporind încrederea utilizatorilor în informațiile furnizate. Răspunsurile incorecte pot varia de la inexactități minore până la informații complet eronate, afectând credibilitatea și fiabilitatea instrumentului. Acuratețea este dificil de menținut, deoarece un răspuns greșit poate fi corectat la o nouă căutare, sistemul fiind imprevizibil.

Surse problematique și manipulare

O parte din problema erorilor este legată de sursele folosite de AI. Cercetătorii au descoperit că platforme precum Facebook și Reddit sunt citate frecvent, iar interpretarea acestora poate fi eronată. În unele cazuri, AI citează corect surse credibile, dar le interpretează greșit, ducând la informații inexacte. Există, de asemenea, riscul manipulării intenționate a sistemului. Persoanele care înțeleg vulnerabilitățile ar putea crea conținut fals cu intenția de a crește vizibilitatea. AI-ul ar putea prelua aceste informații fără să detecteze erorile, perpetuând răspunsuri incorecte. Un reprezentant Google a declarat că sistemele lor folosesc aceleași mecanisme de filtrare ca motorul de căutare. Multe exemple problematice provin din interogări nerealiste.

Recomandări și considerații finale

Este esențial ca utilizatorii să manifeste scepticism față de informațiile furnizate de AI. O eroare la fiecare zece răspunsuri poate părea minoră, dar devine relevantă având în vedere numărul mare de căutări efectuate zilnic. Studiile sugerează că dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive. Mesajul afișat de sistem, „AI-ul poate greși, așa că verifică informațiile!”, rămâne cea mai sigură recomandare.