Anthropic quiere fijar un listón muy alto para que el Gobierno pueda frenar la IA

Que una empresa intente redactar las normas del juego para su propio sector no es algo que se vea todos los días. Sin embargo, eso es precisamente lo que ha hecho el laboratorio de inteligencia artificial Anthropic, que ha estado moviendo entre bambalinas un borrador de proyecto de ley sobre la seguridad de los modelos de IA más punteros en el mismísimo Capitolio de Estados Unidos.

Lo que ha hecho levantar más de una ceja en esta propuesta, sacada a la luz por el medio Politico, es el listón tan astronómico que fija para que las autoridades puedan meter mano. Según el borrador, el gobierno estadounidense solo tendría luz verde para bloquear el lanzamiento o uso de un modelo si existe un riesgo previsible e inminente de provocar más de 1.000 millones de dólares en daños o 50 muertos.

Por si poner el listón en semejante barbaridad fuera poco, el texto de Anthropic busca concentrar todo ese poder de veto en un único departamento gubernamental. Es decir, que la capacidad de frenar un desarrollo potencialmente peligroso pasaría por una sola ventanilla estatal.

Frente a la sorpresa de muchos, desde la compañía defienden su postura sin despeinarse. Un portavoz de Anthropic explicó a Politico que el borrador no es más que el reflejo de su propio "Marco de IA Avanzada", una iniciativa que llevan promocionando ante los legisladores desde junio y que definen como "políticas sensatas sobre las que creemos que el Congreso debería actuar".

Con el Congreso de Estados Unidos sopesando actualmente varias propuestas sobre la seguridad de estas tecnologías, este movimiento deja claro que la batalla por ver quién le pone el cascabel al gato está más viva que nunca. Y a vosotros, ¿qué os parece poner el límite en esas cifras tan brutales? ¡Nos leemos en los comentarios de la comunidad BeersStorming!