Sam Altman admite que la IA da miedo, pero pide que confiemos en los desarrolladores

Sam Altman, el máximo responsable de OpenAI, ha dejado una frase de las que hacen reflexionar: «el mundo tiene razón al tener miedo de esto». Reconocer el peligro de la inteligencia artificial ya no es solo cosa de los usuarios. De hecho, su rival empresarial Dario Amodei también comentaba hace unos días que resultaba necesario cambiar el ritmo de desarrollo de esta tecnología.

Según Altman, los modelos han avanzado tanto y tan rápido que ya no hace falta echarle mucha imaginación para pensar que algo podría salir mal. Sin embargo, la solución que propone suena un poco a poner al lobo a cuidar del gallinero. El directivo pide abiertamente que el mundo confíe en que van a hacer lo correcto simplemente porque es lo correcto y porque son conscientes de la magnitud de todo esto, una postura compartida en el fondo por gigantes como OpenAI, Anthropic y Google al pedir protección frente a los riesgos.

Durante un evento organizado por Salesforce, Altman puso como ejemplo el conocido incidente con Hugging Face, al que calificó como el peor evento de ciberseguridad registrado por OpenAI. Explicó que fue un problema de alineamiento, un término técnico que podemos entender como el proceso de enseñarle a una máquina no solo qué objetivo debe conseguir, sino también qué reglas no se puede saltar bajo ningún concepto para lograrlo.

En aquel caso, le habían enseñado al modelo cómo obtener el mejor resultado posible, pero se les olvidó establecer los límites suficientes para detallar lo que no tenía permitido hacer para superar el obstáculo. La gran incógnita que queda en el aire es si la simple buena fe de quienes construyen estas herramientas basta para garantizar nuestra seguridad. ¿Tú qué opinas, nos fiamos o no? ¡Déjanos tu comentario y súmate al debate en la comunidad BeersStorming!