Un vídeo publicado en YouTube desde el 20 de junio de 2025 hasta mediados de septiembre con el título “Tiroteo en el pecho de escolares japonesas”, “Tiroteo en el pecho de ama de casa sexy” y “Trágico final de reportera” fue eliminado debido a contenido violento. El perfil detrás de estos videos, Woman Shot A.I, utilizó inteligencia artificial para crear escenas donde las mujeres suplican piedad segundos antes de ser asesinadas de forma brutal. A pesar de tener más de mil seguidores y 175,000 visitas, el perfil fue eliminado solo después de que un medio independiente informara sobre el caso. El uso de inteligencia artificial para generar contenido violento es preocupante, ya que puede normalizar la violencia contra las mujeres en la sociedad.
El término “deepfake”, que se refiere a la creación de contenido visual falso por inteligencia artificial, ha sido utilizado para generar videos pornográficos falsos y alimentar fantasías de femicidio. La facilidad con la que se pueden crear estos videos implica un riesgo para la privacidad y seguridad de las personas, especialmente de las mujeres. La falta de regulación y detección adecuada de este contenido plantea desafíos en la protección de los derechos y la integridad de las víctimas.
La educación y concientización sobre los peligros de la tecnología de inteligencia artificial son esenciales para prevenir el uso indebido y la manipulación. La falta de responsabilidad de las grandes empresas tecnológicas en la detección de contenido violento y sexualmente explícito en plataformas como YouTube es un problema que debe abordarse. La protección de las víctimas y la prevención del uso malicioso de la tecnología son prioridades en un mundo cada vez más digitalizado.
Las leyes y regulaciones sobre el uso de inteligencia artificial para la creación de contenido inapropiado deben ser más estrictas, y las consecuencias legales para quienes lo utilicen con malas intenciones deben ser claras y firmes. La seguridad y bienestar de las personas, especialmente de las mujeres y niñas, no deben verse comprometidos por el abuso de la tecnología. Es necesario un enfoque ético y responsable en el desarrollo y uso de la inteligencia artificial para proteger a la sociedad de sus posibles consecuencias negativas.
