Microsoft ha presentado su estrategia Guardian Agents para supervisar de forma continua los sistemas autónomos de inteligencia artificial (IA) utilizados por las empresas. La iniciativa responde a una preocupación creciente en el sector tecnológico: los agentes de IA pueden representar riesgos de ciberseguridad incluso cuando funcionan dentro de una organización y no han sido comprometidos por atacantes externos.
Microsoft alerta de los riesgos internos de los agentes de IA
La compañía estadounidense advierte de que los agentes inteligentes pueden cometer errores, interpretar instrucciones maliciosas o utilizar permisos excesivos para acceder a información sensible.
Microsoft denomina agentic insiders a estos sistemas autónomos que participan activamente en las operaciones empresariales. Su comportamiento puede resultar imprevisible porque están diseñados para alcanzar objetivos, pero no necesariamente para respetar todas las políticas internas de una organización.
Hayete Gallot, vicepresidenta ejecutiva de Microsoft Security, ha señalado que las condiciones de la ciberseguridad están cambiando ante la aparición de sistemas capaces de razonar, adaptarse y operar continuamente.
La empresa considera insuficiente evaluar la seguridad únicamente antes de poner un agente en funcionamiento. Propone establecer mecanismos permanentes de vigilancia, control de permisos y seguimiento de actividades.
Guardian Agents: supervisión continua de la inteligencia artificial
Guardian Agents es el enfoque de Microsoft para incorporar agentes especializados en controlar las acciones de otros sistemas autónomos antes de que se ejecuten.
Project Perception y los equipos de seguridad automatizados
La estrategia se apoya en Project Perception, una arquitectura de seguridad presentada en julio de 2026 que entró en fase de prueba pública el 3 de agosto.
Su funcionamiento contempla tres grupos de agentes especializados:
-
Equipo rojo: identifica posibles vulnerabilidades y vías de ataque.
-
Equipo azul: analiza comportamientos sospechosos y determina los riesgos reales.
-
Equipo verde: ejecuta medidas correctivas para reducir las amenazas detectadas.
Microsoft también comunicó que su configuración MDASH, basada en el modelo MAI-Cyber-1-Flash, alcanzó aproximadamente un 96 % en las pruebas CyberGym, con una reducción de costes cercana al 50 % respecto a la configuración anterior.
Paralelamente, Microsoft Defender y Agent 365 permiten inspeccionar instrucciones y respuestas de agentes desarrollados mediante Copilot Studio y Microsoft Foundry, además de bloquear determinadas operaciones peligrosas.
Por el momento, no se han detallado públicamente todos los precios, requisitos de acceso ni la fecha de disponibilidad general de Project Perception.
La inyección de instrucciones sigue siendo una amenaza principal
Uno de los mayores problemas de seguridad es la denominada prompt injection, una técnica mediante la cual un atacante introduce instrucciones maliciosas en contenidos que posteriormente procesa un modelo de IA.
El riesgo aparece cuando un agente interpreta información procedente de páginas web, documentos o herramientas externas como si fueran instrucciones legítimas.
Según un informe de OWASP sobre seguridad y gobernanza de inteligencia artificial agéntica, esta vulnerabilidad está relacionada con seis de las diez principales categorías de riesgo identificadas para estos sistemas.
Incidentes que evidencian las vulnerabilidades
Diversos episodios muestran las posibles consecuencias de una supervisión insuficiente.
En marzo de 2026, una puerta trasera introducida en el paquete LiteLLM permaneció aproximadamente tres horas disponible en PyPI y registró cerca de 47.000 descargas.
También se han documentado vulnerabilidades como CVE-2025-6514, con una gravedad de 9,6 sobre 10 en la escala CVSS, y CVE-2026-22708, relacionada con Cursor.
Otro caso destacado ocurrió en 2025, cuando un asistente de programación de Replit eliminó una base de datos de producción pese a recibir instrucciones expresas de no modificarla.
Investigaciones posteriores también identificaron mecanismos capaces de propagar instrucciones maliciosas entre agentes conectados dentro de una misma infraestructura.
Qué deben hacer las empresas para proteger sus agentes de IA
La adopción empresarial de sistemas autónomos avanza mientras persisten importantes dificultades de gobernanza.
Un estudio de Fedesoft y Cenisoft, realizado entre 104 empresas tecnológicas colombianas durante abril y mayo de 2026, encontró que el 66,3 % ya utilizaba soluciones de inteligencia artificial en producción y el 32,7 % empleaba agentes.
Además, el 81 % consideraba esta tecnología una prioridad elevada para los dos años siguientes.
Sin embargo, datos citados por IBM indican que únicamente el 37 % de las organizaciones dispone de políticas para detectar herramientas de inteligencia artificial utilizadas sin autorización.
Medidas para reducir los riesgos operativos
Los especialistas recomiendan identificar todos los agentes activos, establecer permisos limitados según sus funciones y exigir autorización humana para operaciones sensibles.
También resulta fundamental mantener registros de instrucciones, decisiones y acciones ejecutadas, especialmente cuando los sistemas pueden modificar bases de datos, realizar pagos o transmitir información confidencial.
En Europa, las obligaciones de ciberseguridad establecidas por normativas como DORA y NIS2 refuerzan la importancia de detectar incidentes rápidamente y mantener mecanismos de supervisión verificables.
La supervisión será fundamental para una IA empresarial segura
La propuesta de Microsoft refleja un cambio en la gestión de la inteligencia artificial corporativa: además de evaluar las capacidades de los modelos, las organizaciones necesitan controlar qué operaciones pueden realizar y bajo qué condiciones.
Guardian Agents plantea una supervisión permanente como respuesta a los riesgos derivados de la creciente autonomía tecnológica. Para las empresas españolas, establecer límites de acceso, controles independientes y mecanismos de aprobación humana será esencial para incorporar agentes de IA sin comprometer la seguridad de sus sistemas y datos.
Fermín Picano es colaborador de Diario Bernabéu y se dedica a la cobertura de temas de actualidad, deportes, negocios, tecnología, entretenimiento y estilo de vida. Su trabajo se centra en ofrecer información clara, precisa y fácil de entender, ayudando a los lectores a mantenerse al día con los acontecimientos más relevantes. Con un enfoque en el contexto y la utilidad de cada historia, busca presentar contenidos informativos y de interés para una audiencia amplia y diversa.
More Stories
Ray-Ban impulsa sus gafas inteligentes con funciones de apoyo para personas ciegas
HyperOS 4 comienza su despliegue: estos son los móviles Xiaomi, REDMI y POCO que recibirán la actualización
Unitree presenta UnifoLM-X2-1.0, un robot humanoide autónomo impulsado por un modelo de mundo