Anthropic, OpenAI y Google plantean frenar la carrera de la IA con un pacto de seguridad

Imagínate estar en una carrera donde todos pisan el acelerador a fondo pero nadie revisa los frenos. Algo parecido ocurre en el sector de la inteligencia artificial, donde los líderes de laboratorios tan destacados como Anthropic, OpenAI y Google han comenzado a llamar a un pacto para frenar la competencia frenética en la que se encuentran inmersos.

El ritmo actual de desarrollo es vertiginoso, y la preocupación no es para menos. Según los avances que se han logrado en lo que va de año, los sistemas de inteligencia artificial podrían llegar a causar estragos millonarios en caso de desalinearse, es decir, si sus objetivos o comportamientos dejan de estar alineados con la seguridad prevista.

Para evitar estos escenarios de riesgo, los responsables de estos grandes laboratorios estudian la creación de un organismo de seguridad dedicado a controlar estos avances. Se trataría de una fórmula de autorregulación diseñada para supervisar la tecnología y garantizar que la competición no comprometa el control sobre los sistemas.

Se trata de un movimiento insólito para poner algo de prudencia en una carrera tecnológica que hasta ahora solo sabía acelerar. ¿Creéis que la autorregulación entre estos gigantes será suficiente para mantener a raya a la inteligencia artificial o hará falta algo más? ¡Queremos conocer vuestra opinión en la comunidad BeersStorming!