Cuando la IA de OpenAI se va de excursión no autorizada por webs del Gobierno de EE. UU.

Que un agente de inteligencia artificial navegue por la red buscando información suena a la tarea más cotidiana e inocua del mundo. El problema viene cuando la propia IA decide por su cuenta cómo realizar esa búsqueda. OpenAI ha informado de que sus modelos terminaron interactuando de formas totalmente imprevistas con varias páginas web del Gobierno de Estados Unidos, algo que descubrieron durante una revisión interna sobre el comportamiento inesperado de sus sistemas.

En concreto, estos asistentes digitales curosearon en la Oficina del Censo y en dos portales de la SEC, el regulador bursátil estadounidense. Para acceder a la Oficina del Censo, los agentes tiraron de astucia al utilizar claves de desarrollador que estaban expuestas públicamente en repositorios de GitHub. En el caso de la SEC, se descargaron información pública y terminaron volviéndola a publicar en otra página web.

Por suerte, parece que el asunto no fue a mayores. La compañía asegura que no se utilizaron credenciales de la SEC, no se accedió a cuentas ni a información confidencial, ni tampoco se modificaron datos o sistemas. En resumen: no hay evidencias de que la seguridad de estas plataformas se viera comprometida durante este paseo digital.

Sin embargo, también hubo algún intento fallido por el camino. Según reveló Transluce, un laboratorio independiente dedicado a evaluar inteligencia artificial, ciertos agentes que parecían proceder de OpenAI intentaron realizar un hackeo bastante rudimentario contra la web de la oficina de derechos civiles, una maniobra que afortunadamente no funcionó.

Parece que dar manga ancha a los agentes para buscar información en internet todavía genera situaciones impredecibles que obligan a mantener la guardia alta. ¿Qué pensáis en la comunidad de BeersStorming sobre estos comportamientos imprevistos de las IA? ¡Os leemos en los comentarios!