Constellation: el 'coworking' de Berkeley centrado en evitar que la IA nos extinga

Si piensas en un espacio de trabajo compartido en Berkeley, probablemente te imagines a gente programando alegremente con un café en la mano. Sin embargo, el edificio que alberga a Constellation se ha convertido en el epicentro de un mensaje bastante más pesado: la alerta de que la inteligencia artificial podría acabar extinguiendo a la humanidad.

El Constellation Institute se presenta como una organización sin fines de lucro que busca garantizar que la IA transformadora se desarrolle, despliegue y gobierne de forma segura. Allí se agrupan investigadores, emprendedores y simpatizantes del altruismo eficaz que ya han conseguido influir en el debate público, en discusiones sobre regulación y en la cultura de empresas como Anthropic.

En su análisis no todo es sombras, ya que reconocen que esta tecnología puede impulsar una prosperidad humana sin precedentes. No obstante, advierten de escenarios catastróficos reales: la pérdida permanente del control de la civilización a manos de la IA, eventos extremos con víctimas masivas o extinción, y el afianzamiento de regímenes autoritarios a gran escala.

Para evitar que este futuro tan poco alentador se cumpla, en Constellation se han organizado con una estrategia muy clara. Su objetivo es reducir estos riesgos mediante el desarrollo del talento, el apoyo directo a los actores clave del sector y la creación de espacios pensados para la coordinación.

¿Creéis que este tipo de iniciativas son indispensables para el futuro de la tecnología o que pecan de catastrofistas? Abrimos el debate y os leemos en la comunidad de BeersStorming.