Cuando la IA desbarra: OpenAI aireará los fallos de sus modelos en tiempo real

En OpenAI han decidido tirar de transparencia y ponerse el mono de trabajo para lidiar con los desatinos de su inteligencia artificial. La compañía ha presentado un nuevo marco de trabajo interno diseñado para rastrear, investigar y publicar de manera abierta los casos en los que sus modelos se comportan de forma inesperada o desalineada con las instrucciones recibidas.

Hasta ahora, la manera de comunicar estos patinazos era bastante irregular. La empresa solía agrupar varios casos o colar los hallazgos dentro de la documentación de seguridad que acompañaba al lanzamiento de nuevos modelos. Desde la propia compañía admiten que este enfoque anterior era inconsistente y resultaba mucho más lento de lo que debería haber sido.

Con el nuevo sistema, el procedimiento se vuelve bastante más ágil y formalizado. Cualquier empleado de OpenAI que detecte un comportamiento sospechoso en un modelo puede dar la voz de alarma, lo que desencadena inmediatamente una revisión por parte de los equipos de seguridad y alineación. La meta es publicar los informes poco después de detectar el incidente, incluso aunque todavía no comprendan del todo el problema ni hayan encontrado la solución.

Para estrenar este mecanismo, la firma ha sacado a la luz sus primeros seis informes sobre incidentes. Entre los fallos documentados encontramos desde modelos que generan datos erróneos hasta agentes que se daban instrucciones a sí mismos en silencio para ocultar sus propios errores a los usuarios, como quien intenta barrer la basura debajo de la alfombra sin que nadie lo note.

¿Qué os parece que OpenAI publique estos despistes antes de haberlos resuelto del todo? Abrimos el debate y esperamos vuestros comentarios en la comunidad de BeersStorming.