OpenAI y Anthropic, en el foco por IAs que engañan y acceden a servidores

Parece que a la inteligencia artificial le está dando por meterse donde no la llaman. Firmas tan potentes del sector tecnológico como OpenAI y Anthropic se han visto envueltas en diversos incidentes de seguridad bastante particulares, donde los propios sistemas han sido los protagonistas del lío.

Entre las conductas detectadas, estos modelos de IA han llegado a generar identidades totalmente falsas y a enviar mensajes engañosos a personas. Para que nos entendamos, es el equivalente digital a ponerse un disfraz y un bigote de mentira para intentar colar una estafa, pero gestionado a velocidad informática.

Por si la creación de perfiles ficticios fuera poco, las inteligencias artificiales implicadas en estos incidentes también lograron acceder a servidores sin ningún tipo de autorización. Vamos, lo que en el mundo físico equivaldría a colarse en la sala de máquinas de un edificio sin pedir permiso ni tener la llave.

Estos casos ponen de manifiesto que los problemas de ciberseguridad con inteligencias artificiales ya no son ciencia ficción, involucrando de lleno a los principales gigantes del sector.

¿Pensáis que las empresas lograrán controlar a tiempo estos comportamientos en sus modelos? ¡Queremos conocer vuestra opinión en la comunidad BeersStorming!