Indonezia a devenit prima țară care a blocat temporar chatbotul Grok al lui Elon Musk, din cauza riscului de conținut pornografic generat de AI. Măsura a fost luată sâmbătă, după ce guverne, cercetători și autorități de reglementare din Europa și Asia au condamnat și unele au deschis anchete privind conținutul sexualizat din aplicație.
### Conținut sexualizat și lacune de securitate
xAI, startup-ul din spatele Grok, a declarat joi că restricționează generarea și editarea de imagini la abonații plătitori, în încercarea de a remedia lacunele de securitate care au permis apariția de conținut sexualizat. “Guvernul consideră practica deepfake-urilor sexuale neconsensuale ca o încălcare gravă a drepturilor omului, a demnității și a securității cetățenilor în spațiul digital”, a declarat ministrul comunicațiilor și digitalului, Meutya Hafid.
### Reacții internaționale și critici
Musk a declarat pe X că orice persoană care utilizează Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar fi încărcat conținut ilegal. Prim-ministrul australian Anthony Albanese și-a exprimat, de asemenea, îngrijorarea cu privire la utilizarea inteligenței artificiale pe chatbotul Grok pentru a permite conținut sexual exploatator. “Utilizarea IA generative pentru a exploata sau sexualiza persoane fără consimțământul lor este abominabilă”, a declarat el reporterilor din Canberra.
### Blocarea și consecințele
Indonezia, cu cea mai mare populație musulmană din lume, are reguli stricte care interzic distribuirea online a conținutului considerat obscen. Blocarea din Indonezia vine după ce Grok a dezactivat vineri funcția de creare a imaginilor pentru marea majoritate a utilizatorilor, în urma protestelor generalizate privind utilizarea acesteia pentru a crea imagini sexuale explicite și violente. XAI a răspuns la solicitările de comentarii cu ceea ce părea a fi un răspuns automat: “Legacy Media Lies”. Această reacție a venit în timp ce lideri internaționali, printre care și prim-ministrul britanic Keir Starmer, au criticat platforma de socializare. În acest context, Indonezia a convocat oficiali X pentru a discuta această chestiune, în timp ce autoritățile de reglementare din Europa și Asia continuează să ancheteze cazul.
