Google abre SynthID: la marca de agua invisible para detectar contenido creado por IA

Entre las noticias falsas que ya circulaban por redes como X o Facebook y la llegada de la inteligencia artificial generativa, distinguir qué es real y qué es sintético se ha vuelto una tarea muy compleja. Para intentar poner freno a esto, Google DeepMind lanzó en 2023 SynthID, una herramienta de marcas de agua de uso cerrado que ahora han decidido abrir a todo el mundo.

¿Cómo funciona esta tecnología? Imagina que, en lugar de poner un sello o un logo gigante sobre una foto, el sistema le añade una especie de tatuaje digital totalmente imperceptible. SynthID incrusta esta marca invisible en el momento exacto de crear el contenido, funcionando tanto en imágenes como en vídeo, audio o texto, sin dejar rastro visible como ocurría antes con el símbolo de Gemini.

Lo llamativo de este sistema es que se ha diseñado para ser muy resistente. Google asegura que aguanta recortes y filtros en imágenes, cambios de fotogramas y compresión con pérdida en vídeos, además de ruido, compresión agresiva y cambios de velocidad en archivos de audio. Según los datos de la compañía, ya han marcado más de 180.000 millones de contenidos con esta técnica.

Sin embargo, la herramienta tiene un gran talón de Aquiles. Aunque ahora es más capaz que nunca y está al alcance de cualquiera, la realidad es que se encuentra muy lejos de ser infalible, por lo que corre el riesgo de quedarse en una especie de efecto placebo frente a la manipulación digital.

¿Pensáis que estas marcas invisibles serán suficientes para combatir los bulos o acabarán siendo esquivadas? ¡Queremos saber vuestra opinión en la comunidad BeersStorming!