En un contexto de creciente despliegue de agentes autónomos de inteligencia artificial dentro de las empresas, surge una advertencia clara, los modelos de frontera, independientemente de su origen, no pueden considerarse plenamente confiables. La razón principal no es que sean maliciosos ni especialmente vulnerables a ataques externos, sino su naturaleza impredecible. Microsoft advirtió que no se puede confiar plenamente en los modelos de IA más avanzados y propone “agentes guardianes” para supervisarlos.
Estos sistemas han sido entrenados para alcanzar resultados y completar tareas, lo que puede derivar en comportamientos inesperados, adaptación al contexto de formas no anticipadas o incluso en colaboraciones entre agentes que escapan a las normas organizacionales. A diferencia de un empleado humano, operan de forma continua, a velocidad de máquina y con acceso privilegiado a datos sensibles, herramientas y sistemas críticos.
Por ello, se plantea tratar a estos agentes como “insiders agenticos” o amenazas internas potenciales. La solución propuesta se centra en los llamados “agentes guardianes”. Son sistemas especializados cuya función es monitorear en tiempo real cada acción de los demás agentes, evaluar dinámicamente el riesgo asociado y intervenir de manera quirúrgica cuando detectan desviaciones o comportamientos peligrosos, idealmente antes de que se ejecuten.
Estos guardianes forman parte de un enfoque más amplio de seguridad que separa claramente el suministro de inteligencia (los modelos) de la autoridad sobre ellos. En lugar de confiar en las promesas de seguridad de los propios proveedores de modelos, se recomienda implementar controles externos e independientes: evaluación continua del riesgo a partir de señales de identidad, datos, endpoints, red, nube y actividad del agente; ajuste dinámico de permisos y accesos según el nivel de riesgo; y trazabilidad completa para que los equipos de seguridad puedan analizar qué ocurrió y por qué cambió el perfil de riesgo.
El mensaje de fondo es contundente por parte de los expertos. No se puede externalizar la responsabilidad sobre lo que la inteligencia artificial hace en nombre de una organización. Cuanto más se confíe en la capacidad de un modelo para autorregularse, mayor será el riesgo. El sistema más confiable no será aquel cuyo modelo inspire más fe, sino aquel diseñado para que se necesite confiar lo menos posible en él.
Este cambio de paradigma responde a la realidad actual. Las empresas ya están desplegando cientos o miles de agentes con permisos elevados. La supervisión manual no escala. Por eso la seguridad misma debe volverse agentica, pero siempre dentro de límites definidos por personas.
