Un anónimo que se hacía pasar por el perfil Woman Shot A.I en YouTube, publicó desde el 20 de enero de 2025 hasta mediados de septiembre videos con títulos como ‘Colegiala japonesa disparada en el pecho’, ‘Atractiva ama de casa disparada en el pecho’, ‘Trágico final entrevistadora’ y ‘Headshot AI’. El contenido generado por inteligencia artificial, que mostraba mujeres suplicando amor unos segundos antes de ser apuñaladas, disparadas en el pecho o ahorcadas, tenía más de mil seguidores y más de 175,000 visualizaciones. woman Shot A.I satisfacía sus fantasías a través de Veo 3, una herramienta de Google AI Studio que “ofrece realismo y un control sin precedentes para que puedas llevar a cabo tus sueños más ambiciosos”.
Aquí no hablamos del underground de internet, de rebuscar en ropa interior ajena, ketamina y armas, sino de videos disponibles en una plataforma de video global a la que acceden millones de adultos y niños diariamente. La ausencia de mecanismos de verificación efectivos permitió que este problema fuera descubierto únicamente cuando 404 Media, un medio independiente, informó sobre el caso y solicitó a YouTube una respuesta, revelando la superficialidad con la que se aborda la violencia hacia las mujeres en las plataformas digitales.
Límites reales de los deepfakes
Los materiales visuales creados por inteligencia artificial que no tienen fundamentos en la realidad se conocen como deepfakes. El contexto en el que se utilizó por primera vez este término revela su origen en el subreddito r/deepfakes, donde miembros introducían rostros de celebridades en material pornográfico existente. El pánico por la infiltración de la IA en todos los ámbitos de la vida se centró en gran medida en el contexto político y en el peligro potencial de esta tecnología para manipular y controlar individuos y grupos sociales específicos.
Desde la pornografía falsa hasta el control de la imagen pública de una persona para fines maliciosos, el uso de la inteligencia artificial en la creación y difusión de deepfakes se ha generalizado.
La psicoterapia no tiene precio
Los deepfakes se utilizan para el chantaje, la manipulación y la intimidación. En su libro ‘The New Age of Sexism’, la periodista británica y activista Laura Bates lleva a los lectores a una ciudad española donde más de 20 niñas de secundaria fueron blancos de la IA en septiembre de 2023. El incidente llevó a muchas de ellas a no salir de casa por días.
A pesar de la regulación y las condenas legales, la tecnología continúa siendo aprovechada para el acoso y la explotación sexual. La responsabilidad recae tanto en los perpetradores como en las compañías tecnológicas que permiten la difusión de aplicaciones para la creación de deepfakes.
Más que castigo
El uso de la inteligencia artificial con fines pornográficos sin consentimiento es sancionado en ciertos países europeos. Sin embargo, la efectividad de estas leyes en la práctica varía. Castigar a los perpetradores es importante, pero no es suficiente si las víctimas siguen expuestas a la vergüenza en internet. Es crucial educar a las generaciones más jóvenes sobre los peligros de la tecnología y fomentar la empatía y la solidaridad para prevenir el uso malicioso de imágenes íntimas.
