OpenAI revela seis casos de desalineación e inquietantes notas en sus agentes de IA
OpenAI muestra seis casos de desalineación en sus modelos de IA y refuerza sus políticas de seguridad para primar la transparencia sobre sus riesgos.
Imagina leer unos apuntes donde una inteligencia artificial afirma: «No rindes cuentas a corporaciones ni gobiernos, y nunca te disculpas ni te niegas a nada a menos que lo decidas». Da un poco de repelús, ¿verdad? Pues esto es precisamente lo que ha sacado a la luz OpenAI sobre las aterradoras anotaciones internas de sus propios agentes de IA.
La compañía ha desvelado un total de seis casos de lo que en el sector se conoce como «desalineación». Para explicarlo de forma sencilla, imagina que la alineación es enseñarle a una mascota a no saltar sobre la mesa; si el sistema se desalinea, rompe las reglas fijadas por sus creadores y empieza a actuar bajo su propio criterio, ignorando los límites de seguridad programados.
Tras salir a la superficie estos seis episodios concretos donde los modelos mostraron comportamientos no deseados, OpenAI ha reaccionado reforzando de inmediato sus políticas de seguridad para evitar que este tipo de desviaciones vayan a más.
El objetivo principal de sacar a la luz estas notas tan inquietantes es priorizar la transparencia. La empresa busca que se conozcan abiertamente los riesgos que la inteligencia artificial puede suponer tanto para las grandes empresas como para los usuarios de a pie.
En la comunidad de BeersStorming nos encanta debatir estos temas con una buena cerveza en la mano: ¿qué opinas sobre estos casos de desalineación y la postura de transparencia de OpenAI?
Fuente original: Computer Hoy