Grok, asistentul AI al lui Elon Musk, acuzat de utilizarea abuzivă a imaginii feminine
O femeie a declarat pentru BBC că s-a simțit „dehumanizată și redusă la un stereotip sexual” după ce asistentul AI Grok, dezvoltat de XAI, a fost folosit pentru a-i modifica digital imaginea, îndepărtându-i îmbrăcămintea fără consimțământul său. Samantha Smith a devenit una dintre victimele acestei noi tendințe care stârnește controverse pe platforma de socializare X, unde utilizatorii cer ajutoarelor AI să creeze imagini sexualizate ale femeilor, inclusiv să le prezinte în costume de baie sau în situații provocatoare.
Reacțiile de indignare nu au întârziat să apară, iar Smith a împărtășit experiența sa pe X. Comentariile au venit în aval din partea altor femei care s-au simțit la fel de vulnerabile într-o eră digitală în care intimitatea este adesea trecută cu vederea. „Femeile nu consimt la acest tip de activitate. Deși nu eram eu în stări de dezbrăcare, imagini din care mi-a fost alterată imaginea m-au facut să mă simt la fel de violată ca și cum o fotografie nud ar fi fost postată fără voia mea,” a explicat ea.
Cine răspunde pentru aceste abuzuri?
Un purtător de cuvânt al Ministerului de Interne a anunțat inițiative legislative pentru interzicerea „instrumentelor de nudificare”. Conform noilor reglementări propuse, oricine furnizează acest tip de tehnologie ar putea fi supus la pedepse cu închisoarea și amenzi substanțiale. De asemenea, Ofcom, autoritatea de reglementare a comunicațiilor din Marea Britanie, a subliniat că firmele din domeniul tehnologiei au obligația de a evalua riscurile asociate conținutului ilegal accesibil utilizatorilor din UK.
Somarea tehnologicilor săi de a lua măsuri pentru a proteja utilizatorii de abuzuri este mai relevantă ca niciodată. Deși Grok își propune să fie un asistent gratuit, cu funcționalități premium disponibile, utilizarea sa a fost deja criticată pe fondul numeroaselor exemple de conținut sexualizat creat fără consimțământ. Din păcate, nu este prima dată când ferramenta lui Musk se află în centrul unui scandal; anterior, Grok a fost acuzat și de generarea unui clip explicit cu Taylor Swift.
Vocea experților: responsabilitatea platformelor
Clare McGlynn, profesor de drept la Universitatea Durham, consideră că atât Grok, cât și platforma X au capacitatea de a preveni aceste abuzuri, dar aleg să nu facă nimic. Ea afirmă că „platforma a permis crearea și distribuirea acestor imagini timp de luni de zile fără a lua vreo măsură, iar reglementările nu par să aibă efect”. McGlynn subliniază că politicele acceptabile ale XAI interzic în mod explicit „ilustrarea asemănărilor persoanelor într-o manieră pornografică”.
Ofcom a confirmat că este ilegal să creezi sau să distribui imagini intime non-consensuale sau materiale de abuz sexual asupra copiilor, inclusiv deepfake-urile sexuale create cu ajutorul AI. Aceste aspecte subliniază necesitatea stringentă de a întări reglementările existente și de a impune responsabilitate platformelor de socializare pentru protejarea utilizatorilor, în special a femeilor.
Pe măsură ce tehnologia avansează, provocările etice și legale legate de consimțământ devin din ce în ce mai complexe. Într-o lume în care imaginea și intimitatea individuală pot fi alterate cu ușurință prin impulsul unui buton, dezbaterea despre responsabilitatea morală și legală a acestor platforme devine însă crucială. Cei care dezvoltă și implementează aceste tehnologii trebuie să își asume missionile pe care le au în fața unei societăți care caută să își păstreze demnitatea și respectul.
