¿Por qué ni los mayores expertos entienden del todo cómo funciona la IA?

Pocos avances tecnológicos avanzan tan rápido como la inteligencia artificial, pero incluso sus principales arquitectos admiten tener una gran asignatura pendiente. Investigadores clave como Geoffrey Hinton, Yoshua Bengio, Leo Gao, Stephen Wolfram o Dario Amodei comparten dos cosas: han llevado la IA hasta su nivel actual y coinciden en que no entienden del todo cómo organizan y usan los modelos de lenguaje lo que aprenden en su entrenamiento.

Para entender el problema sin rodeos, imagina una caja negra a la que le metes preguntas por un lado y te devuelve respuestas por el otro. Sabemos qué entra y qué sale, pero el contenido interno sigue siendo relativamente inaccesible. Los modelos aprenden a procesar la información, pero el camino exacto que recorren las redes neuronales para llegar a sus conclusiones se nos escapa.

El propio Yoshua Bengio lo explicó en octubre de 2024 durante una charla del Instituto para el Futuro de la Vida. El científico afirmó que no cree que lleguemos a interpretar nunca lo que sucede dentro de las redes neuronales por razones fundamentales. Sin embargo, mantiene la esperanza en poder descomponer ese trayecto de la IA en partes que sí sean interpretables.

Esta incertidumbre no es nueva. En 2019, Geoffrey Hinton fue aún más tajante durante una entrevista con la revista Wired al asegurar sencillamente que no sabemos cómo funcionan en realidad. Han pasado los años y, aunque la tecnología ha dado un salto gigante, ese misterio central sigue intacto.

¿Qué opináis en la comunidad de BeersStorming? ¿Os genera desconfianza que no podamos ver el interior de esta caja negra o preferís valorar solo los resultados finales? ¡Esperamos vuestros comentarios!