La dependencia alertó que la IA está siendo usada para difundir violencia digital contra mujeres y advirtió que estas prácticas ya están sancionadas por la Ley Olimpia.
Ante múltiples denuncias de mujeres por la manipulación y difusión de imágenes sexualizadas mediante inteligencia artificial, la Secretaría de las Mujeres exigió a la red social X impedir que su plataforma se convierta en un espacio que reproduzca la violencia de género. El llamado se centra en el uso de la herramienta Grok, empleada para generar contenido íntimo sin consentimiento.
La titular de la dependencia, Citlalli Hernández Mora, advirtió que en semanas recientes usuarios de X han utilizado IA generativa para crear imágenes semidesnudas o de carácter sexual de mujeres reales, las cuales después son difundidas en la plataforma. Subrayó que esta práctica constituye una violación grave a la intimidad, además de una forma de violencia sexual digital que no puede normalizarse.
Hernández Mora recordó que estas conductas están tipificadas en la legislación mexicana a través de la Ley Olimpia, que sanciona la producción y difusión de contenido íntimo real o simulado cuando vulnera la integridad y dignidad de las mujeres. En ese sentido, calificó como inadmisible que herramientas de IA carezcan de filtros de seguridad efectivos, permitiendo la reproducción de agresiones digitales.
La funcionaria explicó que, junto con la Agencia de Transformación Digital y Telecomunicaciones (ATDT), la Secretaría ha sostenido diálogos con diversas plataformas tecnológicas para alinear sus normas de convivencia con los derechos humanos. No obstante, expresó preocupación por la falta de respuesta de X, que argumenta no contar con oficinas en México.
“La ausencia de sedes locales no exime a ninguna empresa de su responsabilidad ética y legal con las usuarias en territorio nacional”, enfatizó. Finalmente, reiteró la disposición al diálogo con X para fortalecer los mecanismos de seguridad y frenar la violencia sexual digital, al tiempo que llamó a las plataformas a asumir un papel activo en la transformación cultural hacia una convivencia digital igualitaria y respetuosa.
