Microsoft AI frena la autonomía de las máquinas y marca distancias con Anthropic

¿Inteligencia artificial tomando sus propias decisiones sin supervisión? En Microsoft AI lo tienen bastante claro: ni hablar. Mustafa Suleyman, CEO de la división, defiende que por muy capaces que se vuelvan estos sistemas, el control debe permanecer siempre en manos humanas.

Para dejar constancia de esta postura, la firma ha presentado su "Humanist AI Code of Conduct". Se trata del documento que orientará el desarrollo y la evaluación de sus modelos a partir de ahora, marcando una guía clara de actuación.

En una entrevista concedida a The Verge, el ejecutivo explicó que la seguridad requiere algo más que el simple alineamiento, es decir, no basta con conseguir que la máquina siga nuestras órdenes. Hacen falta mecanismos de contención que limiten lo que el sistema puede hacer de forma independiente, incluso cuando está cumpliendo correctamente con las instrucciones recibidas.

Desde esta lógica, Suleyman ha planteado sus objeciones al enfoque de Anthropic sobre el posible estatus moral de su modelo Claude. Según el directivo, ciertas decisiones sobre cómo se entrena a estas herramientas pueden dificultar, precisamente, el objetivo de mantenerlas bajo tutela humana.

El debate sobre dónde fijar los límites de la tecnología está servido. Y a vosotros, comunidad de BeersStorming, ¿qué os parece esta idea de ponerle frenos de contención a la IA? ¡Nos leemos en los comentarios!