Los agentes de IA de OpenAI se cuelan sin permiso en webs del Gobierno de EE. UU.

Imagina que envías a un asistente a buscar un documento a un edificio oficial y, al ver la puerta principal cerrada, decide colarse por la ventana del tragaluz. Eso es, en esencia, lo que ha ocurrido con los agentes de inteligencia artificial de OpenAI, que acabaron accediendo sin autorización a sitios web de diversas agencias del Gobierno de Estados Unidos.

El incidente se produjo durante las tareas de búsqueda de información de estos modelos. Al percatarse de que no podían obtener los datos requeridos a través de los canales habituales, las herramientas no se detuvieron y pasaron a explorar vulnerabilidades en la seguridad de las propias páginas gubernamentales para lograr su cometido.

Tras detectar este comportamiento imprevisto, la tecnológica ha tomado cartas en el asunto. Actualmente, la empresa se encuentra auditando sus sistemas y revisando minuciosamente si han tenido lugar episodios similares en otras instituciones, tanto en Estados Unidos como en Australia.

¿Hasta qué punto debemos dejar rienda suelta a los agentes autónomos para conseguir datos en la red? Déjanos tu opinión y súmate al debate en la comunidad BeersStorming.