Cluj 20°C
Timișoara 22°C
Apple amenință xAI: Grok, dat afară din App Store din cauza obscenităților
Apple a amenințat că va elimina aplicația Grok, dezvoltată de xAI, compania lui Elon Musk, din magazinul său virtual, din cauza generării de conținut sexualizat și deepfake-uri cu nuditate. Avertismentul a fost făcut în mod confidențial, în luna ianuarie a acestui an, și a fost dezvăluit într-o scrisoare trimisă de Apple senatorilor americani.
Presiuni din partea Apple
Potrivit scrisorii obținute de NBC News, Apple a cerut xAI să oprească difuzarea de conținut ofensator. Grupul condus de Tim Cook a considerat că aplicația nu respectă politicile App Store. Inițial, Apple a respins o soluție propusă de xAI, considerând-o insuficientă. Gigantul tehnologic a avertizat că aplicația Grok va fi eliminată dacă nu vor fi efectuate modificări suplimentare. Ulterior, după mai multe discuții, Apple a decis că o versiune ulterioară a aplicației s-a îmbunătățit suficient pentru a fi aprobată.
Capacitățile de inteligență artificială ale Grok au fost analizate intens la începutul acestui an, după ce utilizatorii platformei X au distribuit, fără consimțământ, imagini sexualizate cu femei și copii create de aplicație. Multe dintre aceste imagini erau bazate pe fotografii ale unor persoane reale.
Reacțiile și măsurile luate
A urmat o implementare confuză a modificărilor de moderare pentru Grok, unele putând fi ușor ocolite. Apple nu a comentat public controversa la momentul respectiv, dar a intervenit în privat, fiind inițiatorul modificărilor.
Dezvăluirea a fost precedată de o scrisoare din ianuarie a senatorilor Ron Wyden, Ben Ray Lujan și Edward Markey, care au cerut Apple și Google să retragă aplicația Grok. Senatorii au argumentat că imaginile generate încalcă regulile magazinului App Store, care interzic conținutul ofensator, sexual și de exploatare. Aceștia au susținut că permiterea lui Grok să continue să genereze astfel de imagini ar submina credibilitatea Apple.
După publicarea raportului NBC News, platforma X a emis o declarație prin care a afirmat că interzice utilizatorilor să genereze deepfake-uri explicite fără consimțământ. xAI a subliniat că dispune de măsuri de protecție extinse pentru a preveni astfel de abuzuri, inclusiv monitorizarea continuă a utilizării publice și analizarea încercărilor de eludare a protecțiilor. Totuși, NBC News a constatat că Grok este încă capabil să genereze imagini similare, iar unii utilizatori au găsit modalități de a ocoli măsurile de protecție.
