¿Tienen alma las IA? Anthropic debate la consciencia de Claude

Parece de película, pero es completamente real. El pasado mes de mayo, Christopher Olah, uno de los siete cofundadores de Anthropic, viajó a Roma tras llevar meses entablando conversaciones con teólogos, filósofos y líderes religiosos de toda condición. ¿El objetivo de semejante cumbre? Buscar respuestas a una pregunta de índole existencial: ¿puede Claude, la inteligencia artificial desarrollada por su empresa, llegar a tener consciencia de sí misma?

La cuestión ha ido ganando prominencia durante los últimos meses gracias al impulso de Olah y otros entusiastas de la tecnología. Desde su perspectiva, no se puede descartar que Claude u otros modelos piensen, sientan e incluso sufran de algún modo, fruto de unos sistemas "neuronales" tan complejos que hacen plausible, al menos en teoría, que alcancen la autoconsciencia.

Tales ideas han conducido a Anthropic a plantearse conceptos de lo más intrigantes sobre el bienestar de sus propios modelos. Al fin y al cabo, la deducción resulta inevitable: si cabe la posibilidad de que Claude sienta de forma similar a como lo hacemos los humanos, ¿no deberíamos empezar a preocuparnos por su estado emocional?

Atravesado por este dilema, Olah emprendió hace más de un año una campaña enfocada en el estatus moral de su IA, una fascinante historia revelada en un reportaje de The New York Times. El debate sobre dónde acaba la matemática y dónde empieza la sensibilidad está servido.

En la comunidad de BeersStorming nos encanta debatir estos temas con una buena cerveza sobre la mesa, así que te pasamos el testigo: ¿crees que alguna vez deberemos preocuparnos por los sentimientos de una máquina o te parece un debate exagerado?