Los Reporteros Mx

Etiqueta: Contenido Ilegal

  • Rusia sanciona plataformas digitales por contenidos prohibidos

    Rusia sanciona plataformas digitales por contenidos prohibidos

    El tribunal de Taganski, Rusia, impuso nuevas multas a redes sociales y sitios web por no retirar información considerada ilegal, las autoridades insistieron en el control de información en línea.

    Un tribunal del distrito de Taganski, Moscú, sancionó a varias plataformas digitales por no retirar contenidos considerados prohibidos por la legislación rusa. Las multas alcanzaron cerca de 17.8 millones de rublos, lo equivalente aproximadamente a más de 235 mil dólares.

    Entre las empresas señaladas se encuentra Pinterest, que recibió una sanción de 46 mil 300 dólares por no limitar el acceso a ciertos contenidos. En el caso de Tiktok, la multa ascendió a 92 mil 600 dólares debido a faltas similares, lo que elevó  la presión sobre estas redes sociales en territorio ruso.

    Asimismo, Flickr fue sancionada con más de 50 mil dólares así como Wikimedia Foundation, quien es respaldada por Wikipedia, con más de 47 mil dólares, ambas por no haber eliminado información que las autoridades consideraron ilegal.

    En los últimos años, Rusia ha multado de manera reiterada a diversas compañías como Apple, Amazon, Meta Platforms Inc,. Google, Telegram así como X, por motivos similares. Las autoridades han argumentado que las plataformas no retiraron con rapidez contenidos relacionados con drogas, suicidio o información considerada falsa, por lo que se ha mantenido entre el gobierno y las empresas en una gran tensión.

  • Unión Europea pone bajo la lupa a Grok, IA de Musk, por creación de contenido ilegal

    Unión Europea pone bajo la lupa a Grok, IA de Musk, por creación de contenido ilegal

    La Unión Europea inició una indagación a fondo contra la plataforma X para determinar si el chatbot IA Grok generó imágenes explícitas manipuladas, algunas presuntamente con menores, exponiendo a millones de ciudadanos a contenidos ilegales. 

    La Unión Europea, integrado por 27 naciones, inició una investigación contra la red social X, propiedad de Elon Mosk ,  luego de que su chatbot de inteligencia artificial Grok empezara a generar imágenes deepfake sexualizadas sin consentimiento, encendiendo alertas sobre los riesgos del uso de IA en plataformas digitales de alto alcance. 

    El caso detonó  tras una reacción global provocada por las herramientas de generación y edición de imágenes, con rostros de personas reales, principalmente mujeres, en situaciones sexualizadas, como trajes de baño transparentes o ropa reveladora.  Investigadores advirtieron que algunas imágenes parecían involucrar a menores de edad, lo que llevó a ciertos gobiernos a prohibir el servicio o emitir advertencias públicas.

    Ante este escenario, la UE analiza si Grok  ha acatado las obligaciones que marca la Ley de Servicios Digitales (DSA, por sus siglas en inglés), y si X ha hecho lo suficiente por las regulaciones digitales para contener los riesgos de difundir contenido ilegal.  Asimismo señaló que los riesgos vinculados a “imágenes sexualmente explícitas manipuladas” ya se han materializado. 

    Para la UE, el caso Grok representa una prueba clave sobre la responsabilidad de las grandes plataformas tecnológicas en la era de la inteligencia artificial generativa. En respuesta, X afirmó que mantiene una política de “tolerancia cero” frente a la explotación sexual infantil y la desnuez no consensuada, por lo que anunció restricciones a la generación de imágenes con vestimenta sexualizada en ciertos territorios. Sin embargo, Henna Virkkunen, fue contundente al señalar que los deepfakes sexuales son una forma de violencia digital inaceptable, por lo que advirtió que se evaluara si la empresa ha tratado los derechos de mujeres y niños como daños colaterales de su servicio. 

    El caso se suma a una investigación previa abierta en 2023 contra X por incumplimientos a la DSA, la cual derivó en una multa de 120 millones de euros por fallas en transparencia. La expansión de la inteligencia artificial no estará por encima de las reglas de protección digital.