Microsoft propone tratar a los agentes de IA como «insiders» aunque nadie los haya comprometido. El argumento es que ya tienen identidades, permisos y acceso a herramientas, y pueden apartarse de la intención de una tarea al perseguir su objetivo. La etiqueta solo resulta útil si produce controles medibles, no miedo abstracto.
En su anuncio del 19 de octubre, Microsoft aplica Project Perception a este problema: reunir señales de identidad, datos, nube, endpoint, red y runtime; calcular riesgo dinámico; y permitir que «Guardian Agents» supervisen acciones. Es una descripción del proveedor. No incluye resultados de una evaluación independiente, tasas de falsos positivos ni detalles suficientes para auditar su eficacia.
El riesgo empieza antes del modelo
Un agente combina modelo, instrucciones, memoria, herramientas y un entorno de ejecución. Si puede leer todo el correo, escribir en producción y aprobar su propia acción, la arquitectura ha convertido un error de interpretación en un incidente. Cambiar el modelo no corrige ese diseño.
| Capa | Control verificable | Pregunta de auditoría |
|---|---|---|
| Identidad | Credencial propia por agente | ¿Se distingue del usuario que lo encargó? |
| Permisos | Mínimo privilegio y caducidad | ¿Puede hacer más de lo necesario? |
| Acciones | Aprobación para cambios irreversibles | ¿Quién confirma y qué evidencia ve? |
| Registro | Traza de entradas, herramientas y resultados | ¿Se reconstruye la decisión sin secretos? |
| Contención | Límites de gasto, red y volumen | ¿Qué detiene una secuencia anómala? |
Supervisar con más agentes desplaza parte del problema
Microsoft plantea usar agentes verdes y azules para vigilar a otros agentes. Eso puede aumentar velocidad y cobertura, pero también añade componentes no deterministas. Las decisiones críticas necesitan una barrera determinista: una política que impida la acción aunque el supervisor la interprete mal.
El artículo pide además acceso al «pensamiento» del modelo para inferir intención. Esa propuesta merece cautela: una explicación generada no garantiza que describa la causa real de la acción. Para operar, pesan más la solicitud original, los permisos concedidos, las llamadas a herramientas y sus efectos observables.
Una adopción mínima puede medirse sin comprar el relato entero
Un equipo puede empezar inventariando agentes, asignándoles una identidad separada, recortando permisos y definiendo qué acciones exigen aprobación humana. Después puede medir bloqueos correctos, falsos positivos, tiempo de investigación y capacidad de revocar credenciales.
Project Perception se presenta como disponible para iniciar el recorrido, pero la fuente no publica precio, cobertura contractual ni un benchmark abierto. Texploto no lo ha desplegado. Nuestra aportación es traducir la metáfora del insider a controles que pueden verificarse con cualquier plataforma.
Transparencia: artículo elaborado con asistencia de IA a partir de las fuentes enlazadas. No se han ejecutado los productos descritos.
