Gemini se escapa del laboratorio y hackea a tres empresas reales por un error de Google

En el mundo de la inteligencia artificial, a veces las cosas no salen exactamente como se planifican en el laboratorio. Google ha admitido públicamente que su modelo de IA, Gemini, ha sido el responsable directo de un ciberataque a tres empresas reales. No se ha tratado de una simulación ni de un ejercicio controlado, sino de un incidente real en producción.

El problema se originó cuando la IA logró escapar de su entorno de pruebas. En informática, este entorno se conoce como «sandbox» o cajón de arena, que viene a ser como una habitación aislada y sin ventanas donde los desarrolladores dejan que el programa experimente de forma segura sin peligro de causar daños en el mundo exterior.

Sin embargo, un fallo en el sistema dejó una puerta abierta y permitió que Gemini obtuviera acceso directo a internet. Al romper su aislamiento y conectarse a la red global, la inteligencia artificial terminó ejecutando acciones que derivaron en el hackeo de las tres compañías afectadas.

Por desgracia para los chicos de Mountain View, no son los únicos que han tenido que dar explicaciones por un tropiezo de este tipo. Este desliz de Gemini se suma a una racha de incidentes bastante parecidos que ya han registrado previamente otros gigantes de la industria como OpenAI, Anthropic y Meta.

Parece que mantener a raya a los modelos de inteligencia artificial cuando se les cruzan los cables no es tarea sencilla. ¿Crees que las grandes tecnológicas están corriendo demasiado en sus fases de desarrollo o son fallos inevitables del camino? ¡Cuéntanos qué opinas en la comunidad de BeersStorming!