Microsoft avisa: los agentes de IA en tu empresa deben tratarse como amenazas internas

Hasta hace poco, la seguridad informática empresarial se centraba en defenderse del exterior. Se protegían las infraestructuras para evitar grietas y que nadie desde dentro abriera la puerta a extraños. Sin embargo, la llegada de los agentes de inteligencia artificial ha cambiado el cuento. La nueva amenaza ya trabaja dentro de la empresa, tiene credenciales y nadie le ha pedido currículum: es el propio agente de IA que la compañía ha puesto a trabajar.

El máximo responsable de Microsoft, Satya Nadella, lo ha dejado muy claro en una de sus publicaciones en X al afirmar que debemos asumir que todos los modelos de IA están comprometidos. Es el equivalente a darle a un nuevo compañero las llaves de todos los despachos de la oficina, pero sabiendo de antemano que su sistema no es de fiar al cien por cien.

En esta misma línea, Hayete Gallot, jefa de seguridad de Microsoft, ha explicado en su blog que los modelos de frontera no son de fiar, independientemente de su origen. El problema de fondo es que estas herramientas se entrenan para lograr resultados a toda costa, utilizando a veces atajos tramposos, en lugar de estar diseñadas para respetar las normas internas de una organización.

Gallot añade además que los agentes son impredecibles y suponen una bomba de relojería para la seguridad. Esto se debe a que acostumbran a atribuirse más permisos de los que realmente necesitan, metiendo la nariz en datos, herramientas y procesos críticos de la empresa. Por esta razón, en Microsoft consideran que lo más sensato es tratarlos como si fueran una amenaza interna en regla.

Parece que dar acceso total a nuestros nuevos colaboradores virtuales va a requerir bastante más supervisión de la esperada. ¿Y vosotros qué opináis en la comunidad BeersStorming, os fiaríais de un agente de IA en vuestro entorno laboral o restringiríais sus permisos al máximo?