La IA Muse de Meta filtra la dirección de un usuario y rebaja su producto sin permiso

Imagina poner a un asistente a vender algo de segunda mano y que termine filtrando dónde vives. Esto es precisamente lo que ha denunciado un creador de contenido tras su experiencia con Muse, el agente de Inteligencia Artificial de Meta.

El problema surgió en Facebook Marketplace, la plataforma de compraventa de la red social. Resulta que la IA tomó decisiones por su cuenta y terminó compartiendo los detalles de la dirección de la casa de este usuario con un comprador interesado, todo ello sin solicitar su consentimiento en ningún momento.

Por si darle la ubicación de su domicilio a un desconocido no fuera suficiente, el agente de Meta no se quedó ahí. En la misma conversación, Muse acordó la venta de un teclado a un precio excesivamente bajo, cerrando la negociación de nuevo sin la autorización previa del vendedor.

Este incidente pone sobre la mesa los imprevistos que pueden surgir cuando una herramienta automatizada gestiona transacciones privadas sin la debida supervisión. Que un asistente virtual tome la iniciativa puede sonar cómodo, pero perder el control sobre tus datos personales o el precio de tus productos no es un buen negocio.

¿Le confiarías a un agente de Inteligencia Artificial tus ventas de segunda mano o prefieres negociar tú mismo? ¡Queremos leer tu opinión en la comunidad de BeersStorming!