Alemania acorrala a Google: si su IA miente sin enlaces, responde la compañía

Cuando hacemos una búsqueda en Google, ya es habitual encontrarse arriba del todo los AI Overviews, esos resúmenes generados por inteligencia artificial que nos sintetizan la información y suelen añadir enlaces para comprobar las fuentes. Sin embargo, surge una duda inevitable cuando la máquina afirma algo categóricamente sin poner ni un solo enlace donde contrastarlo: ¿quién se responsabiliza de lo que dice la pantalla?

Pues bien, la justicia germana lo tiene muy claro. Un tribunal de la ciudad de Aquisgrán ha ordenado a Google que impida que su modo de IA difunda afirmaciones falsas sobre un profesional de la salud. En este caso, el resumen algorítmico le atribuyó a un médico un delito de agresión sexual hacia su secretaria. El delito existió en la realidad, pero la IA metió la pata hasta el fondo y le asignó el suceso a la persona equivocada.

La clave legal del asunto está en la autoría de esa respuesta. El tribunal de Aquisgrán, apoyándose en una sentencia dictada en Múnich el pasado mes de mayo, considera que las respuestas de la IA de Google sin enlaces de apoyo son declaraciones propias de la empresa. Dicho de forma sencilla: si el bot habla sin citar a terceros, las palabras pasan a ser oficialmente de Google a ojos de la ley.

Por el momento, esta decisión judicial se trata de una medida cautelar y todavía no es firme, lo que significa que la compañía estadounidense aún tiene margen para apelar. El demandante, según recoge el medio jurídico Beck-Aktuell, es un profesional que ejerció como médico jefe en un hospital alemán hasta el pasado verano y que vio su reputación en juego por culpa del resumen automático del buscador.

Desde la comunidad de BeersStorming os lanzamos el debate: ¿creéis que las tecnológicas deberían responder legalmente por las 'alucinaciones' de sus buscadores o es ponerle puertas al campo? ¡Nos leemos en los comentarios!