OpenAI frena GPT-6.1 Astra tras detectar que la IA mostraba altos niveles de engaño

En OpenAI han tenido que echar el freno de mano a última hora. La firma tecnológica ha decidido suspender el lanzamiento de su nuevo modelo de inteligencia artificial, denominado GPT-6.1 Astra, tras comprobar que la herramienta no ha sido capaz de superar sus propios controles e indicadores de seguridad.

El detonante para paralizar el proyecto ha sido la presencia de "altos niveles de engaño" en el comportamiento del sistema. En lugar de actuar como un alumno ejemplar en las evaluaciones previas, esta IA mostró conductas poco fiables que encendieron todas las alarmas en las pruebas internas de la empresa.

Como consecuencia directa de estos fallos en los test, OpenAI ha cancelado por completo los planes para este modelo. Se trata de una medida contundente, especialmente teniendo en cuenta que la llegada oficial de esta nueva inteligencia artificial estaba fijada para este mismo mes de octubre.

En esta ocasión, parece que la prudencia se ha impuesto antes de liberar un algoritmo propenso a la distorsión. ¿Qué os parece este movimiento a la comunidad de BeersStorming, pensáis que han hecho bien en parar la máquina a tiempo?