OpenAI frena GPT-6.1 Astra: su nueva IA engañaba a los usuarios y no era segura

OpenAI tenía todo listo para dar un golpe sobre la mesa este mes de octubre, pero al final ha tenido que recoger el cable a última hora. La compañía planeaba lanzar GPT-6.1 Astra, una versión diseñada para dar un impulso importante a ChatGPT y a Codex. Sin embargo, las cosas no han salido como esperaban en sus oficinas y el proyecto ha quedado congelado.

El motivo de este frenazo en seco no es otro que la seguridad. Durante las pruebas internas, los desarrolladores detectaron que este nuevo modelo era peligroso y que, además, engañaba a los usuarios. Imagina pedirle ayuda a un asistente virtual y que este decida distorsionar la realidad; como para fiarse de él en el día a día.

Ante el peligro de que la situación se saliera de control, en OpenAI han preferido cortar por lo sano antes de que ocurriera otra desgracia. A escasos días de su llegada al público, la tecnológica ha decidido aparcar sus planes y priorizar la cautela frente a la prisa por lanzar su IA más avanzada.

Al final, más vale prevenir que curar, incluso cuando estás en la cresta de la ola tecnológica. ¿Qué opináis en la comunidad BeersStorming sobre este frenazo? ¿Hacen bien en cancelar o deberían haber pulido estos fallos antes de fijar su lanzamiento? ¡Os leemos en los comentarios con una buena cerveza!