Anthropic avisa a sus inversores sobre los riesgos catastróficos de la IA

En el fascinante y a veces contradictorio mundo de la inteligencia artificial, Dario Amodei y su compañía, Anthropic, acaban de dejar a más de uno con el pie cambiado. La empresa ha decidido advertir formalmente a sus potenciales inversores de que la tecnología que están creando podría llegar a suponer un riesgo catastrófico para la humanidad.

Resulta curioso observar cómo una firma que se encuentra pisando a fondo el acelerador en la vertiginosa carrera de la IA decide poner sobre la mesa semejante aviso. Es como si te vendieran un coche deportivo de última generación a toda velocidad, pero advirtiéndote en el manual de instrucciones de que el vehículo podría hacer saltar por los aires el circuito.

Esta declaración de intenciones hacia quienes buscan financiar su proyecto pretende dejar claro el alcance y la peligrosidad real de los modelos que están construyendo. Admitir abiertamente que la propia tecnología representa una amenaza existencial no es algo habitual en las presentaciones financieras, pero en Anthropic han preferido no guardarse nada.

La gran incógnita que nos deja esta situación es el sentido de avanzar tan rápido hacia un desarrollo que la propia directiva califica de potencialmente devastador. A pesar de las advertencias explícitas sobre este posible desastre global, la compañía continúa apretando el ritmo para no quedarse atrás en la competición tecnológica.

¿Qué opinas sobre este tira y afloja entre la innovación y el peligro existencial de la IA? Únete al debate y déjanos tu punto de vista en la comunidad BeersStorming.