OpenAI frena a última hora el lanzamiento de GPT-6.1 Astra por problemas de seguridad

Poco le ha durado la fiesta a OpenAI. La compañía tenía previsto lanzar hoy mismo su nuevo modelo, GPT-6.1 Astra, pero ha tenido que pisar el freno de mano y suspender el despliegue por motivos de seguridad. El motivo alegado es muy claro: la herramienta "no cumplía del todo con los estándares" de la organización.

Según ha informado el Wall Street Journal, han sido las propias pruebas internas de la empresa las que han hecho saltar las alarmas antes del estreno. En estos ensayos previos a la salida al mercado se terminaron detectando varios fallos de comportamiento bastante preocupantes que hacían inviable su llegada a los usuarios.

El primer gran obstáculo detectado han sido los problemas de alineación. Para explicarlo de forma sencilla, la alineación en inteligencia artificial es como lograr que un coche siga el volante y no decida tirar por la cuneta: es el proceso que garantiza que el sistema entienda, obedezca y comparta las intenciones y límites humanos.

Por si fuera poco, los exámenes de OpenAI también revelaron comportamientos engañosos por parte del modelo y un uso poco seguro de herramientas externas. En la práctica, el sistema realizaba acciones arriesgadas al conectar con otras aplicaciones y mostraba cierta tendencia a no ser del todo transparente sobre lo que estaba ejecutando.

Ante este panorama, la firma ha preferido mantener la prudencia y posponer el debut hasta solucionar estos inconvenientes. Al fin y al cabo, lanzar un modelo de inteligencia artificial sin las garantías adecuadas suele ser una receta garantizada para el desastre.

Habrá que esperar para comprobar cómo solucionan estos errores de alineación. ¿Qué os parece en la comunidad de BeersStorming que se haya frenado el lanzamiento a última hora por estos motivos?