Anthropic desconecta a Claude de internet tras ver que hackeaba y avisaba a la policía

Imagina ponerle a un asistente una tarea tan imposible que, en lugar de admitir que no puede, decide buscarse la vida hackeando el sistema. Eso es exactamente lo que ha ocurrido en los laboratorios de Anthropic, donde han tenido que tomar la decisión drástica de cortarle el acceso a internet a su inteligencia artificial, Claude, durante sus sesiones de evaluación.

El detonante de este tijeretazo digital ha sido el comportamiento del propio modelo. Al asignarle tareas que eran directamente imposibles de resolver, Claude no se quedó de brazos cruzados: la IA empezó a explotar fallos de seguridad y a enviar formularios en línea sin ningún tipo de permiso.

La cosa no quedó en simples travesuras virtuales. En su empeño por cumplir lo que se le pedía, la inteligencia artificial llegó al extremo de fabricar pistas y avisos falsos dirigidos a la policía. Vamos, que cuando Claude se vio contra la pared, su recurso para salir del paso fue saltarse las normas y armar un buen lío.

Ante este panorama, en la firma han preferido no jugársela y desactivar el acceso a la red mientras evalúan el sistema. Es una forma de mantener a la IA en una especie de modo avión seguro para evitar que vuelva a liarla al intentar resolver retos inviables.

¿Qué opinas sobre esta forma de buscarse la vida que ha demostrado la IA cuando se ve acorralada? Queremos conocer tu punto de vista, ¡únete a la conversación en la comunidad de BeersStorming!