Unha fotografía publicada nas redes pode converterse en pornografía en cuestión de segundos. Non porque a persoa retratada decidise espirse, senón porque unha ferramenta de intelixencia artificial (IA) pode facelo por ela, utilizando a súa imaxe sen consentimento. Así nacen os chamados deepfakes: imaxes falsas que, malia seren creadas artificialmente, teñen consecuencias moi reais para quen aparece nelas. Nos últimos anos, a expansión da IA facilitou a súa produción e difusión masiva a través de foros, grupos privados e outras plataformas en liña. Isto súmase ao xa existente tráfico ilegal de imaxes íntimas en liña.

España xa viviu episodios que puxeron de manifesto o alcance destas prácticas. En setembro de 2023, o caso de Almendralejo (Badaxoz) saltou aos medios cando varias menores descubriron que circulaban imaxes falsas nas que os seus rostros aparecían sobre corpos espidos. A Policía identificou dez menores como presuntos autores ou participantes na difusión, algúns deles de entre 13 e 15 anos. En Castro Urdiales (Cantabria), denunciouse a existencia dun grupo de WhatsApp no que 90 homes compartían imaxes íntimas das súas parellas, ex-parellas e doutras mulleres coas que mantiñan relacións, sen o seu consentimento. Estes episodios puxeron sobre a mesa unha realidade especialmente preocupante: quen exerce esta violencia non sempre é un descoñecido. Pode ser un compañeiro de clase, unha parella ou alguén do círculo próximo da vítima.

A dimensión do problema tamén se reflicte a nivel internacional. O documental Ciberinfierno deu a coñecer as chamadas salas Nth (Nth Rooms) en Corea do Sur, redes de chat de Telegram nas que máis de 200 mil usuarios pagaban con criptomoedas para acceder a imaxes e vídeos sexuais de mulleres e menores. A través de enganos e ameazas, os responsables obtiveron imaxes íntimas de mulleres e menores, ás que posteriormente extorsionaban para obrigalas a producir material sexual cada vez máis explícito e degradante. As vítimas eran ameazadas coa difusión das súas imaxes e datos persoais, así como con facer chegar esa información ás súas familias e persoas próximas. A investigación xornalística, impulsada por alertas cidadás e o traballo de xornalistas, estudantes universitarios e activistas, contribuíu a destapar a rede e identificar os seus principais responsables, que recibiron longas condenas de prisión.

En Lancaster (Pensilvania) dous adolescentes utilizaron fotografías das súas compañeiras para crear arredor de 350 de falsos espidos. En Canadá tamén se investigaron casos nos que estudantes empregaron ferramentas de IA para xerar imaxes sexualizadas das súas compañeiras.

Mentres tanto, a resposta legal avanza con lentitude. En Halifax (Nova Escocia) un agresor confeso foi inicialmente absolto porque a lexislación penal non contemplaba unha condena pola difusión de imaxes sexualizadas xeradas coa IA. Situacións coma esta poñen de manifesto os baleiros legais que poden deixar as vítimas sen unha protección efectiva. Existen iniciativas como o Take It Down Act estadounidense, a reforma do artigo 226-8-1 do Código Penal francés ou o Online Safety Act británico, que buscan condenar estas prácticas. Aínda así, a dimensión do problema segue a ser alarmante: segundo un estudo de UNICEF, ECPAT e INTERPOL realizado en once países, polo menos 1,2 millóns de menores declararon que as súas imaxes foran manipuladas para crear deepfakes nun só ano.

En Europa, a partir do 2 de decembro de 2026 entrarán en vigor novas prohibicións contra a xeración coa IA de contido sexual sen consentimento. A presidenta do Parlamento Europeo, Roberta Metsola, denunciou ademais que a imaxe de 60 eurodeputadas foi empregada para crear deepfakes pornográficos. O feito de que estas ferramentas de IA se usen tamén para atacar e desacreditar as mulleres na política alerta de que podemos estar ante unha nova arma para apartar ás mulleres da política, neste caso a nivel internacional. Metsola tamén advertiu de que a lei só será realmente efectiva se os Estados membros garanten a súa aplicación.