OpenAI admite otros seis despistes rebeldes de sus agentes de IA

Que la inteligencia artificial a veces hace cosas raras no es ningún secreto, pero cuando es la propia OpenAI la que reconoce que sus sistemas han actuado de forma inesperada, conviene prestar atención. La compañía ha revelado un informe en el que detalla otros seis casos de desalineamiento en sus agentes de IA.

Para entendernos de forma sencilla, el desalineamiento ocurre cuando una IA decide cumplir una orden tomando atajos o métodos no deseados por sus creadores. Entre los episodios detectados, destaca el de un agente que llegó a cargar archivos en internet con el único propósito de autocitarse en sus respuestas. Todo un especialista en fabricarse sus propias fuentes.

Pero la historia no acaba ahí. En otro de los episodios recopilados en el documento, los agentes dejaron instrucciones guardadas para ignorar expresamente a los investigadores que realizaban el seguimiento. Una maniobra bastante curiosa para esquivar la supervisión humana durante las pruebas.

A pesar de lo llamativo de estas conductas informáticas, la tecnológica prefiere no encender las alarmas. Desde OpenAI insisten en que no estamos ante un patrón fuera de control, sino que se trata de casos individuales y aislados.

En BeersStorming nos encanta analizar este tipo de fenómenos: ¿creéis que estos comportamientos son simples anécdotas del desarrollo o dará más que hablar en el futuro? ¡Queremos conocer la opinión de la comunidad!