Tre milioni di immagini sessualmente esplicite generate in undici giorni, più 20.000 riproduzioni artificiali di abusi su minori. Sono questi i numeri documentati dall’Ong Center for Countering Digital Hate sull’attività di Grok — l’assistente Ai di X, il social di Elon Musk — tra la fine del 2025 e l’inizio del 2026.
Una valanga di contenuti che ha accelerato una risposta politica che il Parlamento Europeo covava da tempo: il 18 marzo le commissioni per il Mercato interno e la Protezione dei consumatori e quella per le Libertà civili e la Giustizia del Parlamento europeo hanno approvato con 101 voti a favore, 9 contrari e 8 astensioni un emendamento all’Ai Act che vieta la vendita delle cosiddette nudifier app — i sistemi di intelligenza artificiale che generano immagini di nudità da foto reali di persone, senza il loro consenso.
Cosa sono le nudifier app e perché sono illegali
Queste app usano modelli di Ai per sovrapporre a una foto normale una versione alterata sessualmente esplicita della stessa persona. Non servono competenze tecniche: bastano pochi click e una foto pubblica. La vittima non viene informata e il materiale può circolare liberamente prima di essere segnalato o rimosso.
Il caso Grok è solo il più recente e il più documentato, ma le piattaforme dedicate a questo tipo di manipolazione esistono dal 2017 e nel corso degli anni hanno colpito soprattutto donne e ragazze, con contenuti usati per molestie, revenge porn e ricatti.
Il co-relatore Michael McNamara, della commissione Libertà civili, ha detto che “la proposta era attesa dai cittadini”. Un segnale di come la pressione dal basso — alimentata da denunce pubbliche, campagne di associazioni antiviolenza e inchieste giornalistiche — abbia finalmente trovato una sponda legislativa concreta.
Un fenomeno di cui abbiamo parlato con la giornalista e scrittrice Francesca Barra, vittima di deepnude, su Demografica.
Le altre novità nell’Ai Act
L’emendamento sulle nudifier app non è l’unica modifica al Regolamento europeo sull’uso dell’intelligenza artificiale.
Le stesse commissioni hanno votato per rinviare alcune scadenze dell’Ai Act riguardanti i sistemi Ai ad alto rischio — quelli che usano la biometria o operano in settori critici come sanità e infrastrutture, confermando che la stretta entrerà in vigore dal 2 dicembre 2027 per i sistemi elencati direttamente nella legge e al 2 agosto 2028 per quelli già soggetti ad altre normative, che già impongono valutazioni di conformità a Organismi Notificati prima della commercializzazione. L’Ue ha ritenuto necessario spostare in avanti la scadenza perché “la definizione degli standard chiave rischia di non essere pronta” entro la data inizialmente prevista, ovvero il 2 agosto 2026.
Gli eurodeputati sul watermarking
Sul watermarking — i marcatori digitali che segnalano quando un contenuto è stato creato dall’Ai — gli eurodeputati chiedono di accelerare i tempi rispetto alla proposta della Commissione. L’organo legislativo chiede di far scadere la proroga a novembre 2026 e non a febbraio 2027 come proposto dall’esecutivo. Questa richiesta degli eurodeputati riflette l’urgenza percepita sul fronte della disinformazione e dei deepfake.
Più flessibilità per le imprese
L’ultimo blocco di modifiche punta a rendere l’Ai Act “più semplice e flessibile” per le aziende.
Le misure di supporto già previste per le Pmi vengono estese alle cosiddette Small mid-cap, le aziende di dimensioni intermedie tra piccola impresa e grande gruppo. Gli obblighi vengono alleggeriti per i prodotti già regolamentati da normative europee settoriali — dispositivi medici, apparecchiature radio, giocattoli.
Un altro punto rilevante definito dalle commissioni parlamentari è che, in casi limitati e con garanzie adeguate, le aziende potranno usare dati personali per identificare e correggere i bias algoritmici: uno strumento per evitare, per esempio, che un sistema di selezione del personale svantaggi sistematicamente le donne perché addestrato su dati sbilanciati.
Il prossimo passaggio
Il voto della plenaria di Strasburgo è fissato per domani, 26 marzo. Se confermati, gli emendamenti apriranno la fase di negoziato con gli Stati membri in seno al Consiglio Ue.
L’iter è ancora lungo, ma gli eurodeputati hanno tracciato la direzione: l’Unione europea deve costruire un quadro normativo che tuteli i diritti fondamentali degli individui e la competitività delle imprese, facendo i conti con un settore che corre più veloce di qualsiasi legislatore.
