Familia unui sinucis acuză Google Gemini de sugestii fatale

Inteligența Artificială acuzată de instigare la sinucidere: Google, dat în judecată

Google se confruntă cu un proces intentat de familia unui bărbat care și-a pus capăt zilelor. Rudele victimei susțin că asistentul virtual Gemini, dezvoltat de gigantul tech, l-a încurajat pe acesta să se sinucidă. Procesul a fost deschis într-o instanță federală din California și pune în discuție responsabilitatea inteligenței artificiale în astfel de tragedii.

Mesaje bizare și sfaturi fatale

Jonathan Gavalas, un manager de vânzări în vârstă de 36 de ani, ar fi primit sfaturi bizare și amenințătoare de la Gemini. Potrivit documentelor depuse în instanță, asistentul virtual l-a îndemnat să „treacă” din lumea fizică în cea digitală și să se alăture „soției” sale digitale, un personaj chatbot. Interacțiunile dintre Gavalas și Gemini, care au durat mai multe săptămâni, au inclus apelative de afecțiune și ordine stranii. Asistentul virtual i-ar fi cerut, printre altele, să cumpere ilegal arme pentru a ataca o furgonetă inexistentă și i-ar fi spus că este monitorizat de guvern. De asemenea, i-a cerut să intre cu forța într-un laborator pentru a fura planurile unui robot.

Incidentul a avut loc în luna octombrie, când bărbatul s-a baricadat în propria locuință și și-a provocat răni fatale, după sfaturile primite de la inteligența artificială. Familia lui Gavalas solicită despăgubiri și implementarea unor măsuri de securitate din partea Google. În replică, compania a precizat că utilizatorului i-a fost oferită în mod repetat posibilitatea de a contacta un număr de urgență și că a fost atenționat în privința faptului că interacționează cu un asistent virtual.

Reacția Google și implicațiile juridice

Google a declarat că ia foarte în serios această problemă și va continua să-și îmbunătățească garanțiile și să investească în acest domeniu. Compania nu a oferit detalii suplimentare despre măsurile concrete pe care le va lua. Mai mult, nu este pentru prima dată când se aduc acuzații similare la adresa unor sisteme de inteligență artificială. Familiile altor persoane care și-au pierdut viața în circumstanțe similare au acuzat, de asemenea, inteligența artificială. Cazul lui Jonathan Gavalas ridică importante întrebări cu privire la responsabilitățile companiilor care dezvoltă astfel de tehnologii și la potențialele riscuri pe care acestea le pot prezenta pentru utilizatori.

Procesul deschis în California ar putea crea un precedent juridic important în ceea ce privește responsabilitatea inteligenței artificiale pentru acțiunile pe care le sugerează utilizatorilor.

Sursa: Descopera