La Unión Europea inició una indagación a fondo contra la plataforma X para determinar si el chatbot IA Grok generó imágenes explícitas manipuladas, algunas presuntamente con menores, exponiendo a millones de ciudadanos a contenidos ilegales.
La Unión Europea, integrado por 27 naciones, inició una investigación contra la red social X, propiedad de Elon Mosk , luego de que su chatbot de inteligencia artificial Grok empezara a generar imágenes deepfake sexualizadas sin consentimiento, encendiendo alertas sobre los riesgos del uso de IA en plataformas digitales de alto alcance.
El caso detonó tras una reacción global provocada por las herramientas de generación y edición de imágenes, con rostros de personas reales, principalmente mujeres, en situaciones sexualizadas, como trajes de baño transparentes o ropa reveladora. Investigadores advirtieron que algunas imágenes parecían involucrar a menores de edad, lo que llevó a ciertos gobiernos a prohibir el servicio o emitir advertencias públicas.
Ante este escenario, la UE analiza si Grok ha acatado las obligaciones que marca la Ley de Servicios Digitales (DSA, por sus siglas en inglés), y si X ha hecho lo suficiente por las regulaciones digitales para contener los riesgos de difundir contenido ilegal. Asimismo señaló que los riesgos vinculados a “imágenes sexualmente explícitas manipuladas” ya se han materializado.
Para la UE, el caso Grok representa una prueba clave sobre la responsabilidad de las grandes plataformas tecnológicas en la era de la inteligencia artificial generativa. En respuesta, X afirmó que mantiene una política de “tolerancia cero” frente a la explotación sexual infantil y la desnuez no consensuada, por lo que anunció restricciones a la generación de imágenes con vestimenta sexualizada en ciertos territorios. Sin embargo, Henna Virkkunen, fue contundente al señalar que los deepfakes sexuales son una forma de violencia digital inaceptable, por lo que advirtió que se evaluara si la empresa ha tratado los derechos de mujeres y niños como daños colaterales de su servicio.
El caso se suma a una investigación previa abierta en 2023 contra X por incumplimientos a la DSA, la cual derivó en una multa de 120 millones de euros por fallas en transparencia. La expansión de la inteligencia artificial no estará por encima de las reglas de protección digital.
