El CEO de Anthropic pide pisar el freno con la IA por riesgos catastróficos

De vez en cuando toca soltar la cerveza, mirar a la pantalla y ponerse serios. Dario Amodei, el máximo responsable de la empresa de inteligencia artificial Anthropic, ha lanzado un mensaje que ha hecho levantar más de una ceja en el sector tecnológico: ha llegado el momento de pisar el freno con el desarrollo de la IA.

El directivo ha publicado una carta abierta en la que avisa de manera clara sobre el ritmo vertiginoso al que están avanzando las capacidades de estos modelos. Y no es que reniegue de su sector, ya que reconoce abiertamente que esta tecnología tiene un potencial enorme para transformar la sociedad de forma positiva.

Sin embargo, no todo son flores en el camino. Amodei advierte de que, si no reducimos la velocidad para analizar bien la situación, la Inteligencia Artificial también puede causar riesgos catastróficos. Desarrollar estas herramientas sin control es como acelerar un coche de carreras sin comprobar primero si los frenos responden bien.

Ante este panorama, el directivo se muestra tajante con una frase que invita a la reflexión: "Le debemos a la humanidad intentarlo". Una llamada a la prudencia que busca priorizar la seguridad por encima de la velocidad en esta carrera tecnológica.

¿Creéis que el resto de gigantes tecnológicos le harán caso o la competición pasará por encima de este aviso? ¡Dejad vuestros comentarios y abrimos debate en la comunidad de BeersStorming!