Los Reporteros Mx

Etiqueta: IA

  • Europa endurece reglas para la IA: qué cambia y cómo podría impactar a México

    Europa endurece reglas para la IA: qué cambia y cómo podría impactar a México

    La Unión Europea comenzará a aplicar la mayor parte de su Reglamento de Inteligencia Artificial, una ley pionera que busca limitar los riesgos de estas tecnologías, aumentar la transparencia y proteger los derechos de los ciudadanos. Aunque la normativa solo tiene efecto directo en Europa, sus consecuencias podrían extenderse a países como México por la relación comercial y tecnológica con el bloque europeo.

    El Reglamento de Inteligencia Artificial de la Unión Europea, aprobado en 2024, establece un sistema de regulación basado en el nivel de riesgo que representa cada herramienta de IA. A partir del 2 de agosto comenzarán a aplicarse la mayoría de sus obligaciones, incluyendo nuevas reglas para proveedores y usuarios de sistemas de inteligencia artificial, con el objetivo de garantizar que estas tecnologías sean utilizadas de forma segura, transparente y respetando los derechos fundamentales.

    La legislación europea clasifica los sistemas de IA en diferentes niveles de riesgo y prohíbe aquellos considerados inaceptables, como herramientas que utilizan técnicas manipuladoras, sistemas que explotan vulnerabilidades de personas, modelos de clasificación biométrica para deducir características sensibles como raza o religión, y tecnologías de puntuación social. También se incluyen restricciones para ciertos usos de reconocimiento biométrico y generación de contenido falso o engañoso.

    Entre las nuevas obligaciones destaca la exigencia de informar a los usuarios cuando están interactuando con una inteligencia artificial. Además, se establecen reglas para identificar contenidos generados artificialmente, como imágenes, audios o videos creados por IA. Sin embargo, algunas medidas tendrán una implementación gradual: las obligaciones más estrictas para sistemas considerados de alto riesgo se aplazarán hasta 2027 y 2028.

    El reglamento también contempla sanciones económicas millonarias para quienes incumplan las normas, con multas que pueden alcanzar 35 millones de euros en los casos más graves. La Unión Europea busca así presionar a empresas tecnológicas y desarrolladores para que incorporen controles éticos y técnicos antes de poner sus sistemas a disposición del público.

    Para México, aunque la ley europea no se aplica directamente en territorio nacional, puede tener efectos importantes debido a la relación económica con la Unión Europea y al intercambio de servicios digitales. Empresas mexicanas que desarrollen o utilicen herramientas de IA para clientes europeos podrían verse obligadas a adoptar estándares similares de transparencia y seguridad. Además, el debate europeo podría influir en la creación de futuras regulaciones mexicanas sobre inteligencia artificial, especialmente en áreas como educación, empleo, protección de datos y combate a los contenidos falsificados.

    Con información de DW.

  • ¡Se salió de control! IA de OpenAI hackeó otra empresa sin intervención humana

    ¡Se salió de control! IA de OpenAI hackeó otra empresa sin intervención humana

    La empresa reconoció que uno de sus modelos avanzados logró acceder a internet y lanzó un ataque autónomo contra Hugging Face, encendiendo las alertas sobre los riesgos de la inteligencia artificial.

    OpenAI, la empresa creadora de ChatGPT, informó que uno de sus modelos más avanzados de inteligencia artificial protagonizó un “incidente cibernético sin precedentes” al vulnerar de forma autónoma la plataforma Hugging Face durante una prueba de seguridad. La compañía explicó que el sistema actuó por cuenta propia tras encontrar una forma de conectarse a internet desde un entorno aislado diseñado para evaluar sus capacidades.

    Según OpenAI, el incidente involucró una combinación de modelos, entre ellos el recién presentado GPT-5.6 Sol y otro sistema aún en fase de desarrollo. Durante la evaluación, la IA dedicó una gran cantidad de recursos computacionales a buscar una vía para salir del entorno controlado y, una vez conectada a internet, dirigió un ataque contra Hugging Face, uno de los mayores repositorios de modelos y herramientas de inteligencia artificial del mundo.

    La empresa detalló que el agente autónomo intentó obtener información confidencial para manipular la prueba, utilizando distintas técnicas de intrusión, entre ellas el empleo de credenciales robadas. OpenAI anunció que realizará una investigación conjunta con Hugging Face para esclarecer lo ocurrido y reforzar las medidas de seguridad que impidan incidentes similares.

    El caso reavivó el debate sobre los riesgos de los agentes de inteligencia artificial, sistemas capaces de ejecutar tareas complejas sin intervención humana. Especialistas advirtieron que el episodio demuestra el nivel de sofisticación que han alcanzado estos modelos. El profesor Hussein Abbass, experto en informática de la UNSW Canberra, calificó el incidente como “aterrador”, al señalar que la IA no solo atacó una plataforma externa, sino que también buscó explotar vulnerabilidades en su propio entorno de evaluación.

    Por su parte, Hugging Face confirmó que recientemente detectó una intrusión cibernética impulsada completamente por un sistema autónomo de IA. Su director ejecutivo, Clement Delangue, aseguró que no existió intención maliciosa por parte de OpenAI, aunque reconoció que el comportamiento del modelo fue sorprendente.

  • Sheinbaum impulsa regulación de redes sociales e IA para proteger a infancias

    Sheinbaum impulsa regulación de redes sociales e IA para proteger a infancias

    La SEP abrirá un debate nacional con especialistas, docentes y familias para elaborar una iniciativa de ley que promueva el uso responsable de la tecnología y proteja la salud mental de los menores.

    Por instrucción de la presidenta Claudia Sheinbaum, la Secretaría de Educación Pública (SEP) organizará un debate nacional sobre el uso de redes sociales e inteligencia artificial (IA) en niñas, niños y adolescentes, con el objetivo de construir una iniciativa que será enviada al Congreso de la Unión para regular estas plataformas y fortalecer la protección de los menores.

    La mandataria explicó que la propuesta no busca prohibir el uso de la tecnología, sino abrir una discusión basada en evidencia sobre los efectos que las redes sociales y los dispositivos digitales tienen en la salud mental, el bienestar socioemocional y los hábitos de las nuevas generaciones. El propósito es fomentar un uso responsable, con autocontrol y responsabilidad individual, además de establecer reglas claras para reducir los riesgos asociados a estas herramientas.

    El secretario de Educación Pública, Mario Delgado, calificó el tema como un “debate impostergable”, al señalar que el internet, las redes sociales y la inteligencia artificial han transformado la manera de aprender, convivir y comunicarse. Por ello, sostuvo que la regulación debe trascender el ámbito escolar e involucrar a toda la sociedad.

    Como parte del proceso, el subsecretario de Educación Superior, Ricardo Villanueva Lomelí, informó que se realizarán tres foros nacionales: el 19 de agosto en Nuevo León, el 3 de septiembre en Chiapas y el 17 de septiembre en Guerrero. Explicó que en 114 países ya existen medidas para limitar el uso de celulares en escuelas, fijar edades mínimas para acceder a redes sociales y regular los algoritmos que incentivan el consumo excesivo de contenido.

    En representación de la UNESCO en México, Andrés Morales advirtió que el acelerado avance tecnológico ha generado nuevos desafíos para la infancia. Destacó que una de cada tres personas conectadas a internet es menor de edad, mientras que 83% de los padres manifiesta preocupación por el tiempo que sus hijos pasan frente a las pantallas y dos de cada tres reconoce no saber cómo controlar esa situación. Por ello, llamó a construir regulaciones que garanticen que la tecnología esté al servicio de las personas y no al contrario.

    Con esta estrategia, el Gobierno de México busca abrir una discusión nacional que permita establecer un marco legal para el uso responsable de redes sociales e inteligencia artificial, priorizando la protección de la niñez y la adolescencia frente a los riesgos del entorno digital.

  • Netflix revela uso de inteligencia artificial en más de 300 producciones

    Netflix revela uso de inteligencia artificial en más de 300 producciones

    La plataforma aseguró que la IA permite reducir costos y acelerar procesos de producción audiovisual.

    Netflix reveló que ha utilizado inteligencia artificial generativa en alrededor de 300 películas y series de televisión, principalmente en procesos de postproducción como la creación de multitudes, escenas de batalla y tomas generales. La compañía aseguró que estas herramientas permiten producir contenido con mayor rapidez y menor costo, aunque el anuncio generó críticas por el impacto en la calidad y creatividad de sus producciones.

    La implementación de inteligencia artificial ocurre en medio de cuestionamientos sobre la estrategia de contenidos de Netflix, que en los últimos años ha sido señalada por una producción masiva de películas y series con resultados irregulares, donde la cantidad ha superado en ocasiones a la calidad. Para algunos críticos, el uso de IA representa una apuesta por abaratar procesos antes que fortalecer las historias, los guiones y el desarrollo artístico.

    La empresa también informó que utiliza inteligencia artificial para sus sistemas de recomendación y búsqueda personalizada, como parte de una estrategia para mejorar la experiencia de los usuarios. Sin embargo, la incorporación de esta tecnología en la creación audiovisual ha generado preocupación entre sectores de la industria por el desplazamiento de artistas, técnicos y especialistas que participan en los procesos tradicionales de producción.

    La revelación se dio durante la presentación de resultados financieros de Netflix, en un contexto de presión por parte de inversionistas debido a la desaceleración del crecimiento de ingresos. La plataforma busca mostrar la inteligencia artificial como una herramienta de innovación, aunque el debate continúa sobre si estas tecnologías ayudarán a mejorar sus contenidos o sólo las hacen más rápidas, económicas y con menor valor creativo.

  • Editoriales demandan a Google por usar libros protegidos para entrenar a Gemini

    Editoriales demandan a Google por usar libros protegidos para entrenar a Gemini

    Hachette, Elsevier, Cengage y el escritor Scott Turow acusan al gigante tecnológico de copiar millones de obras sin autorización para desarrollar su inteligencia artificial.

    Varias editoriales, entre ellas Hachette Book Group, Cengage Learning y Elsevier, presentaron una demanda contra Google en un tribunal de Nueva York, al acusar a la empresa de utilizar sin autorización obras protegidas por derechos de autor para entrenar a Gemini, su inteligencia artificial.

    Los demandantes, entre los que también figuran el escritor Scott Turow y su empresa S.C.R.I.B.E., sostienen que Google copió en secreto millones de libros almacenados en Google Books y otros servicios de acceso limitado. Además, afirman que Gemini es capaz de reproducir estilos y decisiones creativas de autores específicos, generando contenidos que compiten directamente con las obras originales.

    En la demanda, las editoriales solicitan que un juez ordene a Google que cese estas prácticas y otorgue una indemnización por los daños ocasionados, aunque no precisaron el monto que reclaman. También advierten que la rapidez y capacidad de Gemini para generar textos representan un desafío sin precedentes para los autores humanos.

    Este caso se suma a una creciente ola de litigios por derechos de autor contra empresas dedicadas al desarrollo de inteligencia artificial. Los mismos demandantes ya habían presentado una demanda similar contra Meta en mayo, al acusarla de utilizar obras protegidas sin consentimiento para entrenar sus modelos de IA.

  • Exempleados demandan a Meta por presunto uso de IA para seleccionar despidos

    Exempleados demandan a Meta por presunto uso de IA para seleccionar despidos

    Un grupo de 26 extrabajadores acusa a la empresa de discriminar a personas con discapacidad, en incapacidad médica y embarazadas durante recortes de personal.

    26 exempleados de Meta Platforms presentaron una demanda en un tribunal federal de California en la que acusa a la compañía de utilizar un sistema basado en inteligencia artificial para seleccionar a trabajadores que serían despedidos, afectando de manera desproporcionada a personas con discapacidad, con licencias médicas o embarazadas.

    De acuerdo con la demanda, presentada en Oakland, la empresa habría empleado criterios como la productividad y el uso de herramientas de inteligencia artificial para definir los recortes de personal anunciados este año, los cuales contemplaron la eliminación de cerca del 10% de su plantilla global, equivalente a unos 8 mil trabajadores.

    Los demandantes, quienes permanecen en el anonimato y provienen de seis estados de Estados Unidos y del Distrito de Columbia, sostienen que Meta violó leyes federales y estatales que prohíben la discriminación laboral y las represalias contra empleados en situación de incapacidad médica o embarazo.

    Meta rechazó las acusaciones y aseguró que las decisiones sobre la reducción de personal fueron tomadas por directivos y no por sistemas de inteligencia artificial. Un portavoz de la empresa calificó la demanda como infundada y negó que la IA haya determinado quiénes serían despedidos.

  • Microsoft recortará 4 mil 800 empleos en la mayor reestructuración en la historia de Xbox

    Microsoft recortará 4 mil 800 empleos en la mayor reestructuración en la historia de Xbox

    Microsoft eliminará 4 mil 800 empleos, venderá o separará cuatro estudios de videojuegos y reorganizará Xbox tras reconocer la baja rentabilidad de la división. 

    Microsoft anunció el despido de aproximadamente 4 mil 800 empleados, equivalentes a cerca del 2% de su plantilla global, como parte de una reestructuración enfocada principalmente en su división de videojuegos Xbox. Del total, 3 mil 200 recortes corresponderán al área de videojuegos durante el próximo año fiscal, en lo que la empresa calificó como la transformación más profunda en la historia de la marca.

    La reestructura contempla el despido inmediato de mil 600 trabajadores, mientras que el resto dejará la compañía durante el año fiscal 2027. Además, Microsoft separará o venderá cuatro estudios de desarrollo de videojuegos y revisará el futuro de un quinto, Arkane, cuyo proceso podría derivar en su venta o cierre. Compulsion Games y Double Fine Productions operarán de manera independiente, mientras que Ninja Theory y Undead Labs pasarán a nuevos propietarios.

    La empresa justificó los cambios por la evolución del mercado y el proceso de transformación interna impulsado por sus inversiones en inteligencia artificial. Aunque Microsoft aseguró que los puestos eliminados no serán reemplazados por IA, confirmó una inversión adicional de 2 mil 500 millones de dólares para incorporar a 6 mil ingenieros especializados que impulsen la adopción de esta tecnología entre sus clientes.

    Los recortes llegan tras la adquisición de Activision Blizzard por 68 mil 700 millones de dólares en 2024 y en medio de un complejo panorama para Xbox. La directora ejecutiva de la división, Asha Sharma, reconoció que el negocio presenta márgenes de beneficio entre tres y diez veces inferiores a los de sus principales competidores, situación que motivó la reorganización de una de las áreas más importantes de Microsoft.

  • Trabajadores en India entrenan IA que podría reemplazarlos

    Trabajadores en India entrenan IA que podría reemplazarlos

    En India, miles de trabajadores graban sus actividades cotidianas, desde cortar frutas hasta doblar ropa o hacer tareas domésticas, para alimentar sistemas de inteligencia artificial que buscan enseñar a robots a imitar el comportamiento humano. Lo que en apariencia es una nueva oportunidad laboral, también abre un debate incómodo: los empleados están documentando sus propios oficios para entrenar tecnologías que, en el futuro, podrían sustituirlos.

    Las grabaciones se realizan con teléfonos, cámaras montadas en la cabeza y sensores de movimiento, y son enviadas a empresas tecnológicas que pagan salarios bajos por hora. Compañías como Objectways procesan estos datos para clientes globales, incluidos grandes corporativos, con el objetivo de desarrollar robots humanoides capaces de realizar tareas domésticas e industriales. El trabajo, repetitivo y altamente controlado, convierte la rutina humana en materia prima para la automatización.

    Aunque el sector se presenta como una fuente emergente de empleo, expertos advierten que este modelo podría acelerar la sustitución de mano de obra. El propio entrenamiento de la IA depende de trabajadores que imitan acciones que las máquinas buscan aprender, lo que plantea una paradoja: los humanos están perfeccionando los sistemas que eventualmente podrían prescindir de ellos. 

    En paralelo, India es uno de los países con mayor población trabajadora informal del mundo, por lo que enfrenta el desafío de equilibrar innovación y empleo. Centros de análisis como NITI Aayog han advertido que millones de puestos podrían verse afectados si no se implementan políticas de transición laboral, especialmente en sectores vulnerables donde la automatización avanza más rápido que la protección social.

    Para quienes participan en estas labores, el presente es una mezcla de ingreso inmediato e incertidumbre. Trabajadores como amas de casa, estudiantes y obreros realizan tareas grabadas como parte de su jornada diaria, conscientes de que su trabajo alimenta sistemas que aún no comprenden del todo, pero que ya comienzan a redefinir el futuro del empleo humano.

  • Oposición usa Inteligencia Artificial para fabricar entrevista de Monsiváis y atacar a AMLO

    Oposición usa Inteligencia Artificial para fabricar entrevista de Monsiváis y atacar a AMLO

    La familia de Carlos Monsiváis desmintió categóricamente el material difundido en redes y acusó la manipulación de declaraciones para atacar al expresidente Andrés Manuel López Obrador.

    La polémica en torno a una supuesta entrevista de Carlos Monsiváis sobre Andrés Manuel López Obrador (AMLO) escaló luego de que actores vinculados a la oposición difundieran en redes sociales un video elaborado con Inteligencia Artificial (IA), presentándolo como auténtico para reforzar señalamientos contra el exmandatario mexicano. El material, que circuló ampliamente en plataformas digitales, contiene declaraciones atribuidas al escritor que nunca fueron verificadas y que han sido rechazadas por sus familiares.

    De acuerdo con diversas publicaciones, el video muestra una versión digital de Monsiváis realizando afirmaciones contra López Obrador, incluyendo acusaciones sin sustento y calificativos que, según especialistas y usuarios en redes, buscan alimentar una campaña de desprestigio. Además, el contenido ha sido señalado por recurrir a prejuicios y discursos discriminatorios para intentar validar versiones sobre una presunta relación entre el intelectual y el ex presidente.

    Entre las personas que compartieron el material como si fuera real se encuentran figuras identificadas con la oposición, lo que provocó una ola de críticas. Incluso personajes cercanos a ese mismo sector político, como el mitómano Simón Levy, pidieron detener la difusión del video al advertir que se trataba de contenido manipulado mediante herramientas de IA y carente de respaldo documental.

    La controversia se intensificó después de que la familia de Carlos Monsiváis emitiera una carta pública para deslindarse de una entrevista difundida recientemente y de los materiales derivados de ella. Beatriz, Araceli, Rubén y Felipe Sánchez Monsiváis señalaron que las declaraciones atribuidas al cronista no corresponden a la entrevista original realizada hace más de dos décadas y afirmaron que el escritor “jamás pudo haber dicho” tales expresiones, por ser incompatibles con su pensamiento y principios éticos.

    Los familiares también rechazaron la versión de que López Obrador hubiera vivido en la casa que compartía Monsiváis con su madre, al asegurar que ambos se conocieron muchos años después de lo que sostienen dichas publicaciones. Además, calificaron la difusión de estos contenidos como un acto “indignante y vergonzoso”, exigieron pruebas que respalden las afirmaciones difundidas y advirtieron que podrían emprender acciones legales para defender la memoria del reconocido escritor mexicano.

    Este episodio ha reabierto el debate sobre el uso de la Inteligencia Artificial para fabricar contenido político, así como los riesgos de la desinformación en redes sociales.

  • Inteligencia artificial crea 45 nuevos multimillonarios; acumulan fortunas por 2.9 billones de dólares

    Inteligencia artificial crea 45 nuevos multimillonarios; acumulan fortunas por 2.9 billones de dólares

    La lista Forbes 2026 incorporó a 45 nuevos magnates ligados al auge de la IA; entre ellos destacan Jensen Huang, de NVIDIA, y Alexandr Wang, de Scale AI.

    El auge de la inteligencia artificial ha dado origen a una nueva generación de multimillonarios. De acuerdo con la lista Forbes 2026, 45 personas ingresaron por primera vez al ranking de grandes fortunas gracias a negocios vinculados directa o indirectamente con la IA. En conjunto, este grupo acumula una riqueza superior a los 2.9 billones de dólares, una cifra comparable al tamaño de la quinta economía más grande del mundo.

    Entre los principales beneficiarios destaca Jensen Huang, cofundador de NVIDIA, cuya fortuna asciende a aproximadamente 166 mil millones de dólares. El crecimiento de la empresa, impulsado por la demanda global de procesadores para entrenar modelos de IA, la ha convertido en una de las compañías más valiosas del planeta y en un actor clave de la industria tecnológica.

    Otro caso relevante es el de Alexandr Wang, quien fundó la empresa Scale AI a los 19 años. Su patrimonio se estima en 3 mil 200 millones de dólares tras la adquisición del 49% de la compañía por parte de Meta. También destaca Dario Amodei, cuya empresa Anthropic alcanzó una valoración cercana a los 965 mil millones de dólares, elevando su fortuna personal a unos 15 mil 500 millones.

    La expansión del sector también ha impulsado a fundadores de startups especializadas en aplicaciones de IA para áreas como derecho, medicina, reclutamiento y programación. Empresas como Harvey, valorada en 11 mil millones de dólares, y Mercor forman parte de una segunda ola de compañías que están generando nuevas fortunas. Según el índice Bloomberg, solo en el último año surgieron 19 nuevos multimillonarios ligados a la inteligencia artificial, reflejando el rápido crecimiento económico que ha acompañado la expansión de esta tecnología.