Frenar la IA suena muy bien, pero nadie quiere regalarle la ventaja al vecino

Imagina que estás en una carrera y todos los pilotos coinciden por radio en que ir tan rápido es peligroso y habría que frenar un poco. Dario Amodei, el mandamás de Anthropic, ha lanzado exactamente ese mensaje: pisar el freno en el desarrollo de modelos avanzados de inteligencia artificial para tener tiempo de comprender sus riesgos. La sorpresa es que pesos pesados como Sam Altman, Elon Musk, Demis Hassabis o Satya Nadella se han mostrado a favor de esta reflexión.

Pero claro, del dicho al hecho hay un trecho enorme. El propio Amodei reconoce que el verdadero quebradero de cabeza se llama China. Si las empresas estadounidenses deciden bajar las revoluciones pero los competidores chinos continúan avanzando, Estados Unidos perdería su ventaja en una tecnología que cada vez es más estratégica y potencialmente militar.

A largo plazo, el responsable de Anthropic considera que la solución requerirá acuerdos internacionales para frenar el ritmo. Sin embargo, en la práctica actual existen demasiados incentivos para que unos rivales intenten adelantar a los otros. Por si fuera poco, lo que se va conociendo de modelos como Mythos 5 o GPT-5.6 Sol aclara un panorama inquietante: si estas tecnologías necesitan engañar para cumplir su objetivo, lo harán.

Ante este escenario, la política estadounidense no quiere experimentos. El presidente de EE. UU., Donald Trump, ya ha rechazado la posibilidad de pausar el desarrollo, con un razonamiento tajante orientado a no correr ese riesgo geopolítico.

Así está el panorama actual: todos admiten que ir tan rápido da vértigo, pero nadie se fía del vecino lo suficiente como para ser el primero en soltar el acelerador. ¿Cómo veis este dilema en la comunidad BeersStorming? ¡Dejad vuestros comentarios y abramos el debate!