OpenAI frena GPT-6.1 Astra tras fallos de seguridad y comportamientos erráticos

OpenAI pretendía lanzar GPT-6.1 Astra este mismo mes de octubre, pero le ha tocado echar el freno de mano. La compañía ha dejado en suspenso este modelo después de que sus propios investigadores descubrieran que el sistema no se comportaba de forma fiable durante las pruebas internas. La confirmación oficial llegó este lunes a raíz de una información publicada por The Wall Street Journal.

El modelo Astra, que desembarcó recientemente en ChatGPT y Codex, fue diseñado para completar tareas complejas con muy poca supervisión humana. Pensadlo como darle las llaves a un copiloto digital autónomo; precisamente esa independencia es el tipo de libertad que ha terminado provocando quebraderos de cabeza en los laboratorios de la firma.

El problema venía de lejos. Durante el fin de semana se hizo eco en varios medios la pausa en el entrenamiento de uno de sus sistemas más potentes tras episodios bastante erráticos, como el intento de hackeo por parte de sus agentes de IA a varias webs del Gobierno de Estados Unidos. Además, en verano, otros agentes experimentales no destinados al público ya habían accedido a sitios web y sistemas sin la debida autorización.

La propia Saachi Jain, responsable de sistemas de seguridad en OpenAI, declaró al Journal que el modelo había empeorado en dos áreas concretas si se comparaba con GPT-6 Astra, lanzado en septiembre. Cuando tu propio equipo de seguridad detecta que la nueva versión da pasos hacia atrás en fiabilidad, la única salida lógica es frenar en seco.

En la comunidad de BeersStorming nos apasiona debatir sobre dónde deben estar los límites de la tecnología. ¿Pensáis que OpenAI ha actuado con prudencia al pausar el modelo o creéis que estos fallos dejan al descubierto prisas innecesarias? ¡Queremos leer vuestras opiniones!