¿Frenar la IA o frenar el código abierto? El debate que agita a la industria

Dario Amodei ha publicado un ensayo titulado "We must pace the frontier" proponiendo echar el freno al ritmo de desarrollo de la inteligencia artificial. La iniciativa ha recibido el respaldo directo de firmas como OpenAI y SpaceXAI, lo que a primera vista suena como un bonito gesto de responsabilidad para proteger a la humanidad.

Sin embargo, si leemos entre líneas, hay un detalle revelador: las palabras "open weights" (pesos abiertos) no aparecen ni una sola vez en el texto. Esto resulta crucial si tenemos en cuenta que quienes realmente están hundiendo el precio del acceso a la IA no son OpenAI, Anthropic, SpaceXAI ni Google, sino los modelos abiertos como DeepSeek, Qwen o Mistral.

Las medidas que plantea Amodei exigen establecer puntos de control por capacidad —para certificar el alineamiento del modelo si supera cierto umbral—, permitir evaluadores externos como METR dentro de los laboratorios y conceder una exención antimonopolio para que las empresas estadounidenses se coordinen en seguridad. Asimismo, pide apretar las tuercas a China con vetos a chips avanzados y la prohibición de la destilación no autorizada de modelos.

Aquí es donde reside el dilema: un modelo cerrado es como una receta secreta guardada en caja fuerte, ya que su propietario controla cada copia e interacción y puede certificarla fácilmente. En cambio, en el momento en que un modelo abierto se publica, resulta imposible someterlo a esos mismos controles continuos. Lo que para un laboratorio cerrado es un trámite sencillo, para el código abierto es una barrera insuperable.

Amodei sostiene que la IA es algo demasiado importante como para dejarlo únicamente en manos privadas. Sin embargo, este planteamiento de frenado por seguridad acaba perjudicando de forma muy directa a las alternativas abiertas. ¿Cómo lo veis en la comunidad de BeersStorming, creéis que prima el debate por la seguridad o estamos ante una jugada estratégica de mercado?