Satya Nadella lo tiene claro: a la IA hay que atarla en corto desde el primer día

Satya Nadella, CEO de Microsoft, se ha pasado por Twitter para dejarnos una lección clara de prudencia digital: más vale prevenir que curar. Según el directivo, debemos asumir desde el primer momento que todos los modelos de inteligencia artificial están comprometidos y que la única opción sensata es contenerlos desde el principio. En otras palabras, nada de darle las llaves del cortijo a un sistema solo porque nos impresione lo listo que es.

La razón de esta desconfianza tiene un sentido técnico bastante básico. Con el software tradicional podías rastrear un comportamiento extraño hasta encontrar la línea de código exacta que daba el fallo. Sin embargo, con los modelos avanzados actuales nos encontramos con mucho poder y muy poca explicación, ya que no podemos aclarar exactamente por qué hacen lo que hacen.

A pesar de esta falta de transparencia, muchas empresas ya están poniendo a trabajar a agentes de IA en sistemas importantes, concediéndoles acceso a datos sensibles y confidenciales e incluso dejando que actúen en nuestro nombre. Ante esto, Nadella es tajante: no podemos externalizar la responsabilidad de lo que la inteligencia hace en nuestro nombre, y las garantías que nos venda el proveedor del modelo no nos libran de esa culpa.

Para evitar males mayores, la propuesta pasa por separar el suministro de inteligencia de la autoridad sobre ella. La receta es tratar a la IA como a un empleado al que se le dan permisos importantes: concederle la menor autoridad posible, rodearla de reglas y vigilancia independiente, registrar absolutamente todo lo que hace y tener siempre a mano el botón de apagado. Y ojo, no se plantea porque los modelos sean maliciosos por naturaleza, sino por puro control de riesgos.

En BeersStorming nos encanta abrir el debate sobre cómo encajar estos avances en el mundo real: ¿confías en dejar trabajar a la IA de forma autónoma en tu día a día o prefieres tenerla bien vigilada desde la barrera? ¡Queremos conocer tu opinión en la comunidad!