Anthropic frena intentos de usar su IA Claude para crear armas biológicas

En el fascinante y convulso mundo de la tecnología, no todo son poema fácil o resúmenes de correos. La empresa Anthropic ha revelado que ha tenido que desactivar varias operaciones vinculadas a ciberdelincuentes que intentaban aprovecharse de su modelo de IA, Claude, para llevar a cabo actividades abiertamente maliciosas.

Entre los intentos detectados, destacan intenciones verdaderamente preocupantes, como el uso de la plataforma para la creación de armas biológicas. Vamos, que algunos no buscaban precisamente ayuda con los deberes de biología, sino cruzar líneas rojas muy peligrosas en materia de seguridad internacional.

Por otro lado, la compañía también ha frenado intentos de destilación ilícita, una maniobra que vincula a empresas chinas. Para entendernos sin liarnos con la jerga informática: la destilación en IA es algo así como copiarle a escondidas los mejores apuntes al empollón de la clase para entrenar tu propio modelo más pequeño sin hacer el trabajo pesado, pero por la vía rápida y sin permiso.

Afortunadamente, Anthropic ha logrado desarticular estas acciones a tiempo. Esto deja bastante claro que los escudos de ciberseguridad en los modelos de lenguaje son tan prioritarios como la propia potencia de cálculo que los mueve.

El debate sobre los límites y la seguridad en la inteligencia artificial está servido. ¿Creéis que las empresas tecnológicas podrán mantener a raya estas amenazas a largo plazo? ¡Uníos al debate y dejad vuestra opinión en la comunidad de BeersStorming!