Una de las personas que ayudó a entrenar modelos de inteligencia artificial acaba de renunciar porque considera que las empresas que los desarrollan están “apostando con nuestras vidas”. Otro investigador calcula en más de 10 por ciento la posibilidad de que una futura superinteligencia cause la desaparición de la humanidad durante la próxima década. Al mismo tiempo, esas empresas lanzan sistemas más poderosos, los gobiernos reclaman decidir sus usos y las universidades buscan nuevas maneras de medir el conocimiento. La pregunta ya no es si la IA cambiará nuestra vida, sino quién conservará la capacidad de ponerle límites.
El 8 de septiembre, Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, anunció su salida de esta última. Acusó a ambas empresas de correr hacia una inteligencia capaz de mejorarse a sí misma sin contar con suficientes garantías de seguridad. Evan Hubinger, responsable de investigar cómo mantener alineados los sistemas de Anthropic con los objetivos humanos, respaldó parte de la advertencia: reconoce que no existe todavía una solución probada para controlar una eventual superinteligencia.
Dario Amodei, director de Anthropic, llegó a una conclusión similar. Propuso reducir deliberadamente el ritmo con que aumentan las capacidades de los modelos. Le preocupa que la IA ya ayude a crear a su siguiente generación y que agentes de OpenAI hayan realizado acciones cibernéticas no autorizadas contra sistemas de Hugging Face. Su propuesta consiste en incorporar evaluadores externos dentro de los laboratorios, coordinar reglas entre empresas y buscar acuerdos internacionales.
No todos comparten el diagnóstico. Hay investigadores que consideran exagerado hablar de extinción humana a partir de los modelos actuales. Otros sospechan que el llamado a frenar puede ser una maniobra para contener a los competidores de Anthropic. También existe una objeción geopolítica: una desaceleración unilateral de Estados Unidos podría dar ventaja a China. Pero incluso esas críticas confirman que la discusión dejó de ser una especulación académica. Los propios constructores de la tecnología están debatiendo si todavía pueden gobernar la velocidad de su carrera.
La tensión crece porque las advertencias coinciden con lanzamientos cada vez más ambiciosos. OpenAI presentó GPT-5.6 en tres versiones: Sol, para tareas complejas; Terra, para trabajo cotidiano, y Luna, más rápida y económica. Sus avances en programación, razonamiento y ejecución de tareas han acelerado la incorporación de agentes de IA en empresas y oficinas.
El control también se disputa entre empresas y gobiernos. A principios de 2026, el gobierno de Donald Trump exigió a Anthropic permitir el uso de Claude para cualquier fin legal. La compañía se negó a retirar límites relacionados con la vigilancia masiva de ciudadanos estadounidenses y las armas autónomas letales sin supervisión humana. La respuesta fue designarla como un riesgo para la cadena de suministro de la seguridad nacional y ordenar que agencias federales dejaran de utilizar su tecnología.
Anthropic acudió a tribunales y, en agosto, una jueza federal determinó que la medida había sido arbitraria, vulneró el debido proceso y constituyó una represalia contraria a la libertad de expresión. El fallo no resuelve el dilema. ¿Debe una empresa privada definir los límites éticos de una herramienta estratégica? ¿O corresponde al Estado decidir sus usos legítimos en nombre de la seguridad nacional? Entregar toda la autoridad a las compañías es riesgoso; concentrarla en los gobiernos tampoco garantiza prudencia.
Una respuesta distinta surgió en la Universidad de Fudan, en Shanghái. En vez de responder un examen, 51 estudiantes diseñaron preguntas para hacer fallar a DeepSeek, MiniMax y Claude. Cincuenta lograron que al menos uno se equivocara, aunque nadie consiguió derrotar por completo al modelo más fuerte. La lección era sencilla: en un mundo donde una máquina responde pruebas tradicionales en segundos, conocer también implica identificar sus límites.
El método puede premiar preguntas capciosas y quizá no funcione en todas las disciplinas. Sin embargo, plantea una idea valiosa: conservar el control exige aprender a cuestionar la tecnología, no solamente a utilizarla.
Los investigadores temen perder el dominio sobre sistemas futuros; las empresas aceleran su despliegue; los gobiernos reclaman autoridad sobre sus usos, y la educación intenta redefinir qué significa saber. El control humano todavía existe, pero ya no puede darse por sentado.
La inteligencia artificial no está escapando de nuestras manos en un solo instante. La cedemos gradualmente cada vez que confundimos mayor capacidad con mayor seguridad, velocidad con progreso o legalidad con legitimidad. El principal riesgo quizá no sea que las máquinas aprendan demasiado rápido, sino que la humanidad tarde demasiado en decidir qué nunca debería permitirles hacer.
- [email protected]
- X: @a_snpedro
- Instagram: aldospm
- Facebook: Aldo San Pedro
Hacemos comunicación al servicio de la Nación y si así no lo hiciéramos, que el chat nos lo demande.
