Tribunalul din Amsterdam interzice chatbotului Grok să genereze imagini nud Un tribunal din Amsterdam a impus companiei xAI, deținută de Elon Musk, interdicția de a genera imagini nud fără consimțământ și materiale cu abuz sexual asupra copiilor, după cum relatează Politico

Tribunalul din Amsterdam interzice chatbotului Grok să genereze imagini nud

Un tribunal din Amsterdam a impus companiei xAI, deținută de Elon Musk, interdicția de a genera imagini nud fără consimțământ și materiale cu abuz sexual asupra copiilor, după cum relatează Politico. Decizia judecătorească vine ca urmare a unor preocupări legate de utilizarea abuzivă a inteligenței artificiale și impune sancțiuni financiare semnificative pentru nerespectarea ordinului.

Compania xAI riscă amenzi zilnice de 100.000 de euro, cu un plafon de 10 milioane de euro, pentru fiecare zi în care nu se conformează deciziei tribunalului. Judecătorul a subliniat că generarea și difuzarea de imagini sexualizate sunt ilegale „atunci când funcționalitatea de a dezbrăca parțial sau complet persoane este utilizată fără ca acestea să-și dea consimțământul explicit”. De asemenea, a interzis crearea de imagini care se încadrează în definiția de materiale cu abuz sexual asupra copiilor, conform legislației olandeze.

Procesul, intentat de organizațiile Offlimits și Fonds Slachtofferhulp, a scos la iveală problema potențialului abuz al inteligenței artificiale în producerea de conținut explicit. Reprezentanții Offlimits au salutat decizia, președintele Robbert Hoving declarând că „tehnologia nu poate fi niciodată motivul pentru care se înregistrează victime”.

Impactul potențial al deciziei și preocupările europene

Deși hotărârea se aplică momentan doar în Țările de Jos, grupurile implicate în proces au exprimat temerile că aceasta ar putea avea implicații mai ample. Grok, chatbotul AI, nu are capacitatea de a identifica locurile de reședință ale utilizatorilor.

Platforma a implementat măsuri pentru restricționarea anumitor funcționalități încă din ianuarie, după ce s-a constatat că Grok genera imagini cu persoane reale în ipostaze indecente. S-a estimat că aproximativ 3 milioane de astfel de imagini au fost create într-un interval de 11 zile. În replică, xAI a afirmat că „rămânem dedicați transformării X într-o platformă sigură pentru toată lumea și continuăm să avem toleranță zero față de orice formă de exploatare sexuală a copiilor, nuditate fără consimțământ și conținut sexual nedorit.”

Comisia Europeană a lansat o anchetă separată privind platforma X la sfârșitul lunii ianuarie. Atât parlamentarii europeni, cât și statele membre UE, au pledat pentru interzicerea aplicațiilor de nudificare bazate pe AI, ca parte a modificării normelor UE privind inteligența artificială, o interdicție posibilă încă din această vară.

Reacția xAI și măsurile luate

Deși judecătorul a recunoscut eforturile xAI și xAI în contracararea răspândirii de imagini false și a materialelor de abuz sexual asupra copiilor, acesta a menționat că eficacitatea acestor măsuri nu poate fi garantată. Compania-mamă X nu a comentat deocamdată decizia tribunalului.

În noiembrie 2023, Elon Musk, proprietarul X și xAI, a răspuns pe platforma sa la o întrebare despre riscurile nudității generate de IA prin simpla postare a unui emoji gânditor.

Sursa: G4Media