UE vrea să interzică aplicațiile concepute pentru a crea imagini sexualizate generate de IA

Comisia Europeană ia în considerare interzicerea aplicațiilor bazate pe inteligență artificială care dezbracă virtual persoanele, în urma conținutului abuziv generat prin intermediul aplicației Grok a companiei X, scrie POLITICO.

Legiuitorii Parlamentului European au lansat săptămâna trecută un apel — prezentat pentru prima dată de POLITICO — pentru interzicerea aplicațiilor și instrumentelor care permit utilizatorilor să genereze imagini intime false ale persoanelor fără consimțământul acestora, în conformitate cu legea emblematică a blocului privind IA.

Executivul UE

„analizează problema”,

a declarat purtătorul de cuvânt al Comisiei Europene, Thomas Regnier, pentru POLITICO.

Aceasta vine în urma proliferării imaginilor sexualizate deepfake create de chatbotul Grok și găzduite pe rețeaua socială X a lui Elon Musk. Săptămâna trecută, site-ul a anunțat modificări care, potrivit acestuia, ar rezolva problema, dar acestea nu se aplicau utilizatorilor asistentului Grok încorporat.

În conformitate cu Legea UE privind IA, anumite utilizări ale inteligenței artificiale sunt interzise din februarie 2025 dacă reprezintă o amenințare clară la adresa siguranței, drepturilor fundamentale sau mijloacelor de trai ale persoanelor.

Aplicațiile de „dezbrăcare” bazate pe IA nu sunt menționate în mod explicit în lista actuală a practicilor interzise din lege. Acest lucru ar trebui să se schimbe, a declarat vineri deputatul liberal irlandez Michael McNamara într-un interviu acordat POLITICO. McNamara este copreședintele grupului pentru IA al Parlamentului European și este responsabil de lucrările Parlamentului privind o propunere de modificare și simplificare a Legii privind IA.

„Este clar că acest lucru era considerat un prejudiciu care trebuia inclus în lista practicilor interzise”,

a spus el referindu-se la postările de pe Grok.

Scandalul Grok a ridicat întrebări cu privire la motivul pentru care deepfake-urile sexualizate generate de IA nu au fost incluse în lista practicilor interzise atunci când negocierile privind legea s-au încheiat în 2023.

„Presupun că nu s-a prevăzut sau anticipat că acest lucru se va întâmpla”,

a spus McNamara.

Interzicerea deepfake-urilor

„ar fi fost pur și simplu de neconceput”,

a scris Laura Caroli, expertă în guvernanța IA, într-un blog vineri. Caroli este fosta asistentă a celuilalt lider al Parlamentului în domeniul IA, social-democratul italian Brando Benifei, și a participat la negocierile finale din decembrie 2023, când a fost stabilită lista practicilor interzise.

„Interdicțiile erau considerate aproape toxice, în special de către statele membre”,

a scris ea în blogul său.

Singura mențiune a deepfake-urilor în legislația UE este obligația de a le eticheta astfel încât utilizatorii să le poată recunoaște – o cerință care va intra în vigoare din august 2026.

Comisia trebuie să stabilească acum dacă deepfake-urile sexualizate generate de IA se încadrează în una dintre interdicțiile enumerate în prezent, cum ar fi interdicția sistemelor de IA care sunt „manipulative sau înșelătoare” sau care exploatează vulnerabilitățile oamenilor, sau dacă ar trebui adăugată o nouă interdicție.

Legislația UE privind IA impune Comisiei să evalueze anual dacă lista practicilor interzise ar trebui actualizată, deschizând astfel calea pentru modificări.

Caroli a avertizat că modificarea listei de interdicții ar putea crea noi probleme, comparând scenariul cu deschiderea cutiei Pandorei în ceea ce privește modul în care UE gestionează IA.

„Mă tem că poate merge în orice direcție posibilă, deoarece unele state membre nu au fost foarte mulțumite de anumite interdicții”,

a spus ea.

„Cine ne spune că va fi o călătorie lină?”

O alternativă la interdicție ar putea fi dispoziții separate care să reglementeze cele mai complexe și avansate modele, cunoscute sub numele de modele de IA de uz general, care includ Grok de la X.

În conformitate cu aceste dispoziții, companiile trebuie să abordeze

„riscurile sistemice”

care decurg din modelele lor. Aceste riscuri au făcut obiectul unei lupte aprige anul trecut, când un grup de experți a elaborat linii directoare de conformitate pentru companii. Riscurile legate de

„imaginile intime neconsensuale”

au fost incluse ca exemplu de risc.

Acest lucru ar putea constitui o bază pentru Biroul de IA al Comisiei Europene pentru a lansa o discuție formală cu X.