Anthropic propone frenar la IA por vía judicial si amenaza con causar catástrofes

En el apasionante universo de la inteligencia artificial, a veces hace falta poner un poco de cordura antes de que la tecnología nos desborde. La empresa Anthropic parece tenerlo bastante claro y busca impulsar límites legales muy concretos para controlar los modelos más avanzados del sector.

Tal y como ha revelado el medio Politico, se ha presentado un proyecto de ley ante los legisladores en Estados Unidos que contempla una medida drástica. La propuesta busca permitir la suspensión judicial de un modelo de IA avanzado cuando exista un riesgo inminente de desastre.

Pero, ¿dónde se dibuja exactamente esa línea roja para llamar a los jueces? El proyecto establece umbrales muy claros: la intervención judicial se aplicaría si hay un peligro real de causar más de 50 muertes o de provocar pérdidas económicas de gran magnitud, por encima de los 1.000 millones.

Esta medida funcionaría como un freno de mano de emergencia con respaldo legal para desenchufar temporalmente un sistema si la situación se vuelve peligrosa. Se trata de poner reglas del juego claras antes de que los posibles daños sean irreversibles.

¿Creéis que este tipo de límites judiciales son suficientes para mantener a raya a la IA o hace falta apretar más las tuercas? Abrimos el debate en la comunidad BeersStorming, ¡os leemos con una buena cerveza en la mano!