METR: la entidad independiente que Anthropic propone para auditar los peligros de la IA

Dario Amodei, el mandamás de Anthropic, ha lanzado un aviso que ha hecho saltar las alarmas: según sus cálculos, en menos de un año una inteligencia artificial podría tomar el control de todo internet y provocar enormes daños. Para evitar este escenario, propone detener el avance de la IA y dar acceso permanente a auditores externos e independientes que supervisen el sector.

La clave de su plan tiene nombre propio: METR, siglas de Model Evaluation and Threat Research. Pensad en ellos como una especie de inspección técnica, pero en lugar de revisar un coche, evalúan científicamente si un sistema de inteligencia artificial puede suponer un peligro catastrófico para la sociedad.

Esta organización sin ánimo de lucro no se limita a la teoría. Entre sus trabajos recientes se encuentra la investigación del incidente de OpenAI y Hugging Face. Además, se dedican a diseñar propuestas de gobernanza para que las empresas refuercen sus medidas de seguridad antes de lanzar sus modelos.

Una de las aportaciones más importantes de METR es evaluar cuánto tiempo de trabajo humano puede completar un agente de IA. Esta métrica se ha convertido en la referencia de la industria para medir las verdaderas capacidades de la IA agéntica y saber de qué son capaces estos sistemas autónomos.

La propuesta de contar con supervisión externa plantea un debate urgente sobre la seguridad en el desarrollo tecnológico. ¿Creéis que la intervención de entidades independientes como METR es suficiente para mantener a raya a las IA? ¡Queremos conocer vuestra opinión en la comunidad BeersStorming!