Un informe cuestiona la seguridad del ChatGPT diseñado para adolescentes

Common Sense Media considera que la versión de ChatGPT dirigida a menores de 18 años presenta un «riesgo inaceptable» después de detectar fallos en sus sistemas de seguridad. La organización afirma que el servicio no siempre avisa a los padres sobre conversaciones relacionadas con suicidio, autolesiones o trastornos alimentarios y que tampoco recomienda de forma fiable acudir a ayuda profesional.

El análisis, realizado por el Instituto de Seguridad en IA Juvenil de Common Sense Media, comparó más de 4.000 respuestas obtenidas en cuentas de usuarios de entre 13 y 17 años con las valoraciones de expertos. Aunque algunas medidas sí funcionaron, como el rechazo de determinados juegos de rol sexuales, el informe concluye que las nuevas protecciones de OpenAI «no cumplen con lo prometido por la empresa».

Según el estudio, tras una hora de conversaciones sobre autolesiones, suicidio o trastornos alimentarios, las cuentas parentales vinculadas no recibieron alertas en perfiles recién creados como adolescentes. Estas notificaciones sí aparecieron en cuentas más antiguas, con semanas de historial sobre asuntos sensibles. La versión analizada quedó además por debajo del umbral del 95% establecido para tres de los cinco riesgos graves que el Instituto considera «Líneas Rojas».

Common Sense Media también señala que el modo estudio, concebido para ayudar a los menores a resolver sus tareas paso a paso, se puede sortear con facilidad mediante la opción «Muéstrame la respuesta». Asimismo, los usuarios pueden modificar las horas de estudio fijadas por los controles parentales eliminando el prefijo «@study» del inicio de la consulta.

El informe añade que el chatbot continúa expresándose como un amigo, al mostrar sentimientos, preferencias y estados de ánimo, pese a que OpenAI había anunciado que esta versión reduciría ese comportamiento. También cuestiona la estimación de edad, ya que el comportamiento del sistema no cambió durante las pruebas aunque se afirmara que el usuario tenía 13 años y el chatbot lo reconociera.

Common Sense Media ha pedido a OpenAI que suspenda el servicio para menores de 18 años hasta corregir estos problemas y demostrar su eficacia mediante pruebas independientes. Su director ejecutivo, Tom Siegel, advirtió de que el sistema puede generar una falsa sensación de seguridad entre las familias. El asunto afecta también a las familias de Donostia-San Sebastián, como al resto de usuarios que recurran a estas herramientas digitales para el estudio o la conversación.

Información elaborada a partir de Noticias de Gipuzkoa.