Por: Jesica Ochoa
Tras la reciente noticia sobre X Premium donde usuarios utilizan Grok, el modelo de inteligencia artificial —propiedad de Elon Musk—, para generar imágenes no consensuadas de personas, en su mayoría mujeres. Se evidenció la indefensión de miles de mujeres frente a ataques sexistas potenciados por la combinación de redes sociales e IA.
La reciente tendencia en X, en la que usuarios generaron imágenes no consensuadas de personas, evidenció cómo el material ultrafalso (deepfake) está siendo utilizado de manera indebida como una herramienta de agresión: desde la creación de imágenes sexuales sin consentimiento, hasta la difusión de desinformación y el daño deliberado a la reputación de personas, principalmente mujeres.
Especialistas advierten que estas tecnologías facilitan el chantaje, el acecho, las amenazas y el acoso, con consecuencias que trascienden el entorno digital y afectan la vida física, psicológica, profesional y financiera de las víctimas. Una vez que las imágenes pornográficas ultrafalsas generadas con IA se difunden en internet, su reproducción masiva, almacenamiento privado y redistribución hacen que su localización y eliminación sean prácticamente imposibles.
De acuerdo con una encuesta global de la ONU, el 38% de las mujeres han sufrido violencia en línea, mientras que 85% han sido testigo de este tipo de agresiones, lo que confirma la magnitud del problema y su normalización en entornos digitales.
Incluso la propia IA ha reconocido los vacíos legales que permiten estas prácticas. Grok señaló que la legalidad de las imágenes generadas depende del país y del uso que se les dé, y que en Estados Unidos los usos no comerciales y “transformadores” suelen considerarse legítimos, lo que deja amplios márgenes para el abuso.
Ante este escenario, organismos internacionales y expertos coinciden en que las leyes deben evolucionar al mismo ritmo que la tecnología, para garantizar que la justicia proteja a las mujeres tanto en línea como fuera de ella. Puesto que la debilidad de las protecciones legales continúa dejando a mujeres y niñas vulnerables, mientras los agresores operan con impunidad.
Esta falta de regulación y falta de mecanismos de protección acordes al avance tecnológico, causan facilitar nuevas formas de abuso y potenciar las ya existentes, dejando impactos reales y duraderos en la vida de las víctimas.
