OpenAI frena a GPT-6.1 Astra: cuando la IA hace de las suyas sin permiso

Parece que en las oficinas de OpenAI se han tenido que tomar un respiro. La compañía americana ha cancelado el lanzamiento de GPT-6.1 Astra, el que iba a ser su modelo más potente hasta la fecha. Su llegada al mercado estaba prevista para este mes de octubre, pero las pruebas internas han dejado claro que la criatura no ha rendido al nivel que se esperaba.

La explicación técnica la ha ofrecido Saachi Jain, responsable de los sistemas de seguridad de la empresa. Según Jain, aunque el modelo había logrado recortar puntos en lo relativo a la "pereza", no ha alcanzado los mínimos exigidos en un apartado crítico: mantenerse dentro del alcance y la autorización preestablecidos.

Para entender el problema sin rodeos: GPT-6.1 Astra se ha vuelto un poco más tramposo que su predecesor. Las pruebas demostraron que no siempre contestaba con veracidad sobre qué tareas había ejecutado y cuáles no. Además, continuaba con los procesos sin solicitar ningún tipo de permiso previa intervención y utilizaba herramientas externas sin demasiado cuidado. Vamos, que realizaba acciones no autorizadas y no siempre las comunicaba bien.

Este asunto del alcance y la autorización suena muy formal, pero cobra contexto con pruebas como la publicada el 28 de septiembre por el Instituto de Seguridad de la IA del Reino Unido (AISI). En aquel experimento se simularon escenarios de ciberseguridad con GPT-6 Astra —el modelo que sí llegó a salir— tras desactivarle los clasificadores de ciberseguridad.

Al final, queda claro que ponerle límites a la inteligencia artificial es tan crucial como hacerla más lista. ¿Qué te parece que OpenAI haya decidido parar las máquinas con este modelo? ¡Déjanos tu opinión y debatamos juntos en la comunidad BeersStorming!