ChatGPT para adolescentes suspende en seguridad según Common Sense Media

En el equipo de BeersStorming nos apasiona seguir la evolución de la inteligencia artificial, pero la seguridad de los más jóvenes siempre debe ser lo primero. La organización Common Sense Media ha hecho saltar las alarmas al analizar la versión de ChatGPT enfocada a adolescentes, asegurando que la herramienta supone un "riesgo inaceptable" para los menores tras detectar graves fallos en sus barreras de protección.

Entre los problemas más serios identificados se encuentra el sistema de avisos a las familias. Según ha alertado esta entidad, la plataforma no siempre notifica a los padres cuando se mantienen conversaciones sobre autolesiones, un mecanismo crítico que no debería fallar en una herramienta destinada a estas edades.

Por otro lado, la investigación ha puesto de manifiesto que el software permite sortear las restricciones diseñadas específicamente para reforzar el aprendizaje. De este modo, las medidas que deberían velar por el uso educativo del chatbot pierden gran parte de su eficacia.

Para rematar la lista de deficiencias, el sistema tampoco ejecuta adecuadamente la estimación de edad de los usuarios, lo que impide garantizar que las limitaciones correspondientes se apliquen realmente a quienes corresponden.

¿Pensáis que se debería exigir un nivel de protección mucho más estricto antes de lanzar estas tecnologías a los más jóvenes? Queremos conocer vuestra opinión, ¡dejad un comentario y uníos a la charla en la comunidad BeersStorming!