La tecnológica publicó un código de conducta para sus modelos MAI ante el aumento de riesgos de seguridad y ataques informáticos apoyados por inteligencia artificial.
Microsoft publicó un nuevo código de conducta para inteligencia artificial con el objetivo de establecer reglas sobre el comportamiento de sus modelos y evitar que estos sistemas actúen de manera autónoma sin supervisión. La empresa presentó el documento bajo el concepto de una “IA humanista”, cuya premisa es que las personas deben mantenerse por encima de la tecnología.
El código será aplicado a los modelos internos MAI, desarrollados por Microsoft como alternativa a otras plataformas de inteligencia artificial. La compañía aseguró que los sistemas deben permanecer bajo control humano, una postura que cobra relevancia ante el crecimiento de las capacidades de estas herramientas y los riesgos asociados con su uso.
Microsoft vinculó la publicación con recientes campañas de hackeo a gran escala en las que agentes de IA fueron utilizados para apoyar operaciones informáticas. Para la empresa, estos casos demuestran que la industria tecnológica no puede retrasar la discusión sobre seguridad y mecanismos que permitan mantener bajo control el desarrollo de modelos cada vez más avanzados.
La preocupación no es exclusiva de Microsoft. El director general del grupo francés de defensa y tecnología Thales, Patrice Caine, llamó a los gobiernos a asumir su responsabilidad en la regulación de la inteligencia artificial y advirtió que, aunque existen herramientas técnicas para mantenerla bajo control, estas por sí solas no son suficientes.
Mientras tanto, líderes de las principales compañías del sector se preparan para participar en un encuentro con el rey Carlos III en Escocia, donde se analizará cómo aprovechar la IA en beneficio de la sociedad. Se prevé la presencia de representantes de Google DeepMind, OpenAI, Nvidia y Anthropic.
Desde China también surgieron advertencias. Chen Yixin, jefe de los servicios de inteligencia del país, señaló que la IA representa un riesgo para la seguridad nacional, al advertir que potencias extranjeras podrían utilizarla para fabricar rumores políticos y difundir información perjudicial. La carrera por desarrollar IA avanza, pero también crece el debate sobre quién debe ponerle límites.
