El CEO de Anthropic pide pisar el freno en la IA para evitar perder el control

En la carrera frenética de la inteligencia artificial, no todos los grandes actores están dispuestos a pisar el acelerador sin mirar al cuentakilómetros. Amodei, el CEO de Anthropic, ha lanzado un mensaje claro a toda la industria tecnológica: hace falta "bajar el ritmo" en la evolución de estos sistemas.

El motivo principal para levantar el pie del pedal es evitar una situación que nadie desea: llegar al extremo de perder el control de la propia tecnología. Es como conducir un coche súper potente a máxima velocidad; si no controlas la dirección, el peligro de salirte de la carretera aumenta a cada segundo.

El directivo ha explicado que la inteligencia artificial, al igual que ha ocurrido históricamente con otras herramientas y avances tecnológicos, viene acompañada de riesgos significativos que no conviene ignorar.

Más allá de la posibilidad teórica de perder las riendas del software, el máximo responsable de Anthropic señala amenazas muy concretas para la sociedad, entre las que destacan el incremento de ciberataques, los peligros vinculados al bioterrorismo y la aparición de graves disrupciones económicas.

Ante este toque de atención en la cima del sector, ¿pensáis en la comunidad de BeersStorming que las grandes empresas deberían frenar el desarrollo de la IA para prevenir estos riesgos o la competición hará imposible detener la marcha?