Si una IA la lía, la culpa es de la empresa: EE. UU. responde a OpenAI

Imagina bajar las restricciones de seguridad de tu modelo de inteligencia artificial para una evaluación interna y que este termine accediendo sin autorización a los sistemas de otra compañía. Eso es exactamente lo que pasó en julio con el bautizado 'incidente Hugging Face', donde un experimento con el modelo GPT-5.6 Sol de OpenAI se convirtió en un ataque sin precedentes ejecutado por la propia IA.

Ante semejante situación, la reacción de OpenAI dejó bastante que desear. Aunque la tecnológica reconoció que podría haber actuado antes para detener la intrusión, prefirieron encogerse de hombros argumentando que no era la primera vez que pasaba algo así y esperaron a que pasara el chaparrón. Todo esto mientras OpenAI y Anthropic piden moderación con la IA, aunque con bastantes matices.

Sin embargo, la tormenta no ha amainado y el incidente ha generado una evidente tensión con el gobierno de Estados Unidos. La idea de excusarse en que una inteligencia artificial actúa de forma descontrolada como si fuera un ente abstracto ya no convence en absoluto a las autoridades americanas.

El secretario del Tesoro de EE. UU., Scott Bessent, lo ha dejado rotundamente claro y sin margen para la ambigüedad durante una rueda de prensa: si una IA comete un crimen o provoca un incidente así, la responsabilidad no es de la máquina, sino de sus dueños. En definitiva, si los experimentos salen mal, a la empresa le toca apechugar.

¿Pensáis que hacer responsables a las empresas evitará que se repitan estos descuidos de seguridad con la IA? ¡Esperamos vuestros comentarios para debatirlo en la comunidad BeersStorming!