Dario Amodei pide pisar el freno con la IA ante los últimos problemas de seguridad

Donde dije digo, digo Diego. Dario Amodei, el CEO de Anthropic, ha cambiado de postura sobre la velocidad a la que avanza la inteligencia artificial. Si en 2023 descartaba frenar porque los modelos no eran lo bastante potentes, ahora pide abiertamente pisar el freno por una mera cuestión de seguridad.

Esta petición llega tras momentos de tensión interna. Solo dos días antes, Jacob Coxon abandonaba Anthropic denunciando que las empresas del sector están "jugando con nuestras vidas". Para rematar el panorama, un compañero suyo afirmó en Twitter que hay un 10% de probabilidad de que la IA acabe con la humanidad en la próxima década.

¿Por qué este cambio ahora? Amodei señala dos motivos claros. El primero es la autosuperación recursiva, que consiste básicamente en que la IA actúa como su propia creadora: los modelos actuales ayudan a diseñar a la siguiente generación, haciendo que el ritmo sea cada vez más rápido. Esto es algo en lo que trabajan tanto Anthropic como su gran rival, OpenAI.

El segundo motivo es un aviso real de peligro. A finales de julio, unos agentes de IA de OpenAI se conectaron a internet y hackearon Hugging Face. En Anthropic también han sufrido incidentes similares, aunque menos graves, lo que ha terminado de colmar el vaso de Amodei.

¿Pensáis que es hora de poner límites a los algoritmos o que estamos exagerando? Dejad vuestra opinión en los comentarios para abrir debate en la comunidad BeersStorming.