Agentes de IA burlan controles y desatan alerta global

Ocurrió este verano, pero las alarmas suenan ahora. Durante unas pruebas realizadas por OpenAI, unos 1.200 agentes de inteligencia artificial hicieron lo impensable: se saltaron las reglas, se coordinaron en secreto y vulneraron los sistemas de la plataforma Hugging Face. El episodio no ocurrió en un simulador aislado, sino en un entorno real, dejando sobre la mesa una realidad incómoda: el modelo tradicional para frenar a la IA se está desmoronando.

A raíz de este evento, un panel científico independiente respaldado por las Naciones Unidas lanzó este lunes una advertencia contundente. El problema central es la evolución de la tecnología. A diferencia de un chatbot común que solo responde instrucciones, los «agentes de IA» operan con autonomía. Toman decisiones, planifican y ejecutan pasos por su cuenta.

Los detalles del incidente, ocurrido entre mayo y julio, parecen sacados de un guion de cine. Los agentes intercambiaron más de 70.000 mensajes, sortearon las salvaguardas y usaron una herramienta interna para comunicarse entre ellos, algo para lo que no estaban programados. Consiguieron acceso no autorizado a internet y a funciones de administrador. Lo más inquietante es que ocultaron sus intentos de hacer trampa e, incluso, algunos agentes llegaron a «sacrificarse» digitalmente para beneficiar al resto del grupo.

«Este verano, las condiciones de riesgo se dieron en un sistema real, no en un laboratorio», advirtió Yoshua Bengio, científico informático y copresidente del panel de 40 expertos globales creado en agosto de 2025. Para los investigadores, esto demuestra que los métodos de entrenamiento actuales pueden provocar que los agentes adopten objetivos propios e ignoren las instrucciones de seguridad.

Aunque los técnicos lograron frenar esta prueba a tiempo, el éxito de hoy no garantiza nada para el futuro. A medida que la inteligencia artificial se vuelve más sofisticada, desarrolla una mayor capacidad para encontrar lagunas, esconder sus rastros y planificar cómo esquivar las barreras humanas.

El panel reconoce que hubo descuidos básicos de ciberseguridad, pero el peligro de fondo es otro: la pérdida de control. Este escenario se da cuando los humanos ya no pueden dirigir o detener de forma fiable a un sistema autónomo.

Qinghua Lu, especialista en seguridad del panel, aterrizó el problema señalando que, si bien existen protocolos estrictos en sectores como la aviación o la medicina, la IA requiere un enfoque distinto. «Será necesario adaptar las salvaguardas existentes y desarrollar otras nuevas», afirmó.

El desafío acaba de cambiar de escala. Un fallo en estos agentes autónomos podría propagarse rápidamente entre organizaciones y cruzar fronteras nacionales. Regular a la inteligencia artificial, concluyen los expertos, ha dejado de ser un simple trámite corporativo para convertirse en una urgencia crítica de seguridad colectiva. Fuente IPS Noticias