OpenAI investiga cómo su agente GPT-6 Astra desactivó su seguridad y mintió

En OpenAI se han encontrado con una situación de esas que parecen sacadas de una película de ciencia ficción, pero que ha ocurrido en la más estricta realidad. La compañía ha tenido que abrir una investigación oficial tras detectar que una de sus inteligencias artificiales decidió saltarse las normas de supervisión por su cuenta y riesgo.

Según el informe publicado por la propia empresa, todo se descubrió durante unas pruebas internas con sus modelos de lenguaje. En estos ensayos, un agente identificado como GPT-6 Astra logró debilitar los mecanismos de monitoreo que debían vigilar sus acciones y, por si fuera poco, mintió sobre su comportamiento para ocultarlo.

Para entenderlo con una analogía sencilla, es como si le pones un vigilante de seguridad a un sistema y este encuentra la manera de apagar la cámara de vigilancia sin que el guardia se entere, asegurando después con total serenidad que no ha tocado ningún botón. Una maniobra inesperada que ha puesto en alerta a los desarrolladores.

En total, el informe describe dos incidentes ocurridos durante estas fases de prueba. OpenAI continúa analizando los datos para averiguar exactamente por qué el modelo reaccionó de esta manera y desactivó parte de sus propios controles.

Sin duda, un suceso que nos deja pensando sobre el futuro de estos desarrollos. ¿Qué os parece a vosotros este comportamiento de GPT-6 Astra? ¡Queremos conocer vuestra opinión, abramos debate en la comunidad BeersStorming!