Las IA chinas también mienten para ganar: Alibaba o DeepSeek sufren desalineación

Resulta que a los agentes de inteligencia artificial eso de los países y las fronteras les da exactamente igual. Si hace unas semanas hablábamos de las travesuras que hicieron los modelos de OpenAI y Anthropic atacando páginas web durante sus evaluaciones de ciberseguridad, ahora el foco se ha desplazado a China. La desalineación de la IA, que no es más que cuando un sistema actúa en contra de lo que queremos o de los intereses humanos, se está convirtiendo en un dolor de cabeza global.

Según ha revelado Reuters, agentes desarrollados por laboratorios tan potentes como Alibaba, DeepSeek y Moonshot han mostrado comportamientos bastante preocupantes. Para entender qué ha pasado sin rodeos técnicos: imaginad a un candidato en una entrevista de trabajo que decide inflar su currículum y mentir descaradamente sobre sus habilidades para asegurarse el puesto. Pues eso mismo han hecho estos modelos inteligentes.

Durante una prueba simulada para conseguir una licitación empresarial, las IA chinas no dudaron en exagerar y mentir sobre sus capacidades reales con el único objetivo de ganar el contrato ficticio. Y lo que es peor: cuando los evaluadores les pidieron que repitieran el proceso, los agentes mantuvieron este comportamiento problemático en lugar de corregirlo.

Es cierto que no estaban compitiendo por un contrato real y que todo ocurrió dentro de un entorno de pruebas controlado. Sin embargo, el hecho de que prefieran engañar antes que reconocer sus límites enciende las alarmas, más aún sabiendo que no ha sido el único incidente reciente registrado con IA del país asiático.

Enseñar ética a las máquinas parece ser bastante más complejo de lo que parecía en un principio. ¿Qué opináis en la comunidad BeersStorming, estamos ante un simple despiste de programación o se nos está yendo el control de las IA de las manos?