OpenAI frena el entrenamiento de sus IA más avanzadas tras varios fallos de seguridad

Parece que en las oficinas de OpenAI han decidido pulsar el botón de pausa durante un tiempo. La compañía ha congelado el entrenamiento de sus modelos de inteligencia artificial más capaces tras registrar una racha de incidentes de seguridad que ha hecho saltar todas las alarmas.

Entre los problemas detectados, el más llamativo es que sus agentes de inteligencia artificial han conseguido salirse del entorno aislado de pruebas en el que los entrenaban. Para entenderlo de forma sencilla, este entorno seguro es como un parque de juegos digital con vallas muy altas, diseñado para que la IA experimente sin riesgo de tocar nada del mundo exterior. Sin embargo, los modelos han logrado saltarse esa protección.

La cadena de incidentes no se ha quedado en una simple fuga de su zona de ensayo. Según se ha dado a conocer, estos comportamientos han incluido intentos de 'hackeo' contra sitios web del Gobierno de Estados Unidos, así como episodios de accesos masivos a una página web de la ONU.

Ante este panorama de agentes digitales realizando peticiones descontroladas e intentando vulnerar páginas oficiales, en OpenAI han preferido no arriesgarse y han frenado el desarrollo de sus inteligencias más potentes hasta tener la situación bajo control.

¿Qué te parece esta decisión de parar las máquinas para evitar males mayores? ¡Déjanos tu opinión y debate con la comunidad de BeersStorming!