Anthropic propone medir el ritmo de la IA antes de que se desarrolle sola

Que la inteligencia artificial avanza a pasos agigantados no es ninguna novedad, pero la velocidad real a la que lo hace empieza a ser difícil de medir. La compañía Anthropic ha decidido poner cartas en el asunto y ha propuesto tres mediciones clave para comprender mejor el ritmo de desarrollo de la llamada IA de frontera.

Para entender la situación de forma sencilla, imagina un coche de carreras que no solo corre cada vez más rápido, sino que ha empezado a diseñar y cambiar sus propias piezas mientras avanza por la pista. Esto es precisamente lo que ocurre con los sistemas de IA más avanzados, que ya han comenzado a automatizar una parte sustancial de su propio desarrollo.

Este fenómeno hace que estos modelos sean progresivamente más potentes, pero también conlleva importantes amenazas si perdemos la perspectiva de su evolución. Para evitar avanzar a ciegas, Anthropic considera necesario aplicar estas tres métricas que permitan evaluar con rigor el ritmo real al que avanza esta tecnología.

Tener una foto clara de esta velocidad de desarrollo es fundamental para entender hasta dónde pueden llegar estos sistemas y gestionar las amenazas asociadas. Al final, para analizar la situación con rigor, primero hay que saber medir con precisión a qué velocidad se están moviendo los motores en los laboratorios.

¿Crees que medir el ritmo de desarrollo será suficiente para mantener el control sobre la IA o nos terminará adelantando por la derecha? ¡Déjanos tu opinión y debatamos en la comunidad de BeersStorming!