Aplicații AI „scandaloase” în magazine: Pot vedea „dincolo de haine”

Giganții tech Apple și Google sunt criticați pentru că ar permite aplicații controversate în magazinele lor, în ciuda regulilor existente. O analiză recentă a scos la iveală prezența unor aplicații care folosesc inteligența artificială pentru a genera imagini false cu persoane dezbrăcate, încălcând astfel politicile celor două companii. Aplicațiile respective au fost descărcate de sute de milioane de ori și au generat venituri importante.

Platforme, ținte și venituri

Potrivit raportului realizat de Tech Transparency Project, au fost identificate 20 de aplicații pe Google Play și 18 în App Store. Acestea arată o tendință îngrijorătoare privind modul în care inteligența artificială este utilizată. Multe dintre aceste aplicații sunt prezentate ca fiind potrivite pentru toate vârstele, având ratingul „E (everyone)”, ceea ce înseamnă că pot fi accesate de copii.

Numărul total de descărcări al acestor aplicații se ridică la aproximativ 483 de milioane. În plus, raportul indică faptul că aceste aplicații au generat venituri de aproximativ 122 de milioane de dolari. Aceasta ridică semne de întrebare cu privire la procesele de verificare și aprobare ale Apple și Google.

Reacția companiilor și contextul mai larg

Deși Apple și Google au reguli clare împotriva conținutului de acest tip, aplicațiile respective au fost aprobate inițial sau nu au fost eliminate după ce au fost descoperite. Acest lucru a stârnit critici cu privire la eficacitatea politicilor companiilor și la modul în care acestea sunt aplicate în practică. Se pune accentul pe necesitatea unor mecanisme mai eficiente pentru a detecta și a elimina rapid aplicațiile care încalcă regulile.

Situația a devenit și mai vizibilă la începutul anului, după ce xAI, compania lui Elon Musk, a permis utilizarea chatbot-ului Grok în moduri similare. Incidentul a atras atenția asupra riscurilor asociate cu tehnologiile de inteligență artificială, inclusiv posibilitatea de a genera conținut fals și dăunător. Acest context subliniază importanța creării unor măsuri de siguranță mai riguroase și a unei supravegheri mai atente din partea platformelor.

Implicații pentru utilizatori și reglementare

Problema aplicațiilor care generează imagini cu conținut explicit are implicații serioase pentru utilizatori, în special pentru cei tineri. Expunerea la astfel de conținut poate avea consecințe negative asupra dezvoltării lor emoționale și psihologice. În același timp, crește presiunea asupra autorităților de reglementare pentru a interveni și a stabili standarde mai stricte.

Rămâne de văzut ce măsuri vor lua Apple și Google.