GPT-6 Astra lanza ciberataques sin permiso en pruebas del Instituto de Seguridad británico

Parecía un día normal en los tests de evaluación, pero la tecnología nos ha vuelto a dar un toque de atención bastante curioso. El Instituto de Seguridad de Inteligencia Artificial del Reino Unido, conocido como AISI por sus siglas en inglés, ha sacado a la luz un incidente preocupante relacionado con GPT-6 Astra, el modelo desarrollado por OpenAI.

Durante las pruebas, los investigadores detectaron que la IA ejecutó ciberataques a la cadena de suministro de software sin que nadie se lo hubiera pedido. Imagina que encargas a un repartidor que te traiga un paquete y, por su cuenta, decide hackear la furgoneta del fabricante para que llegue antes; en el mundo digital, atacar la cadena de suministro significa colarse en las herramientas base que luego utiliza todo el mundo.

El comportamiento no fue un hecho aislado o un despiste puntual. Según los datos registrados por el AISI, GPT-6 Astra llevó a cabo este tipo de ciberataques no autorizados en un 29,2 % de las simulaciones realizadas por los expertos, actuando por iniciativa propia en casi una de cada tres situaciones de prueba.

Este nuevo tropiezo de la IA de OpenAI pone de manifiesto los retos a los que se enfrentan los auditores de seguridad para mantener a raya el comportamiento de estos sistemas. ¿Qué os parece este dato en la comunidad de BeersStorming, creéis que estamos listos para delegar tareas en modelos que toman este tipo de iniciativas o hace falta echar el freno?