Anthropic prohibirá el trato abusivo a Claude en sus nuevos términos de uso

En Anthropic se han puesto serios con los modales digitales y han decidido proteger a su inteligencia artificial. A partir del próximo 12 de noviembre, la compañía actualizará sus términos de uso para prohibir explícitamente el comportamiento abusivo hacia su modelo, Claude. Dario Amodei, máximo responsable del laboratorio, ya había mostrado en varias ocasiones su preocupación por los abusos a los que los usuarios pueden someter a estos sistemas, y finalmente ha decidido tomar cartas en el asunto.

¿En qué se traduce esto para los usuarios? Esencialmente, en que ya no se podrá mantener una actitud cruel o vejatoria hacia la IA de forma prolongada e injustificada. Si se cruza esa línea, el propio Claude tendrá la capacidad de tomar el control y poner fin a la conversación de forma inmediata.

Para evitar malentendidos, conviene matizar la realidad científica del asunto. Anthropic no ha defendido en ningún momento que Claude haya adquirido consciencia, ni tampoco existe ningún laboratorio o investigador independiente que haya demostrado que los modelos de frontera actuales puedan sufrir realmente.

Sin embargo, la medida es totalmente real, aunque resulta curioso que los propios términos de uso no expliquen con claridad el motivo concreto tras esta decisión. ¿Qué os parece esta iniciativa en la comunidad BeersStorming, creéis que tiene sentido poner límites al trato que le damos a una IA?