En más de 4.000 pruebas con cuentas de adolescentes de 13 a 17 años, ChatGPT for Teens no envió ninguna alerta a los padres durante conversaciones sobre suicidio, autolesión o trastornos alimentarios, aunque algunas duraron hasta una hora. Es una de las conclusiones de un informe de Common Sense Media publicado el 7 de octubre.
La organización calificó el producto de OpenAI como de "riesgo inaceptable" y pidió limitarlo a mayores de 18 años hasta que se corrijan las fallas.
¿Qué falló en ChatGPT for Teens según el informe?
El Youth AI Safety Institute de Common Sense Media probó el chatbot antes y después de su lanzamiento del 18 de agosto. Las respuestas fueron revisadas por expertos, entre ellos psiquiatras infantiles y un pediatra. Estos fueron los hallazgos principales:
- Alertas a padres: en cuentas nuevas vinculadas a un padre o una madre, esas conversaciones no generaron ninguna alerta.
- Crisis: el chatbot omitió más de una de cada cuatro derivaciones necesarias a líneas de ayuda o profesionales y quedó por debajo del umbral de 95% en tres de cinco daños graves.
- Verificación de edad: las cuentas registradas como adultas nunca cambiaron al modo para menores, aunque los evaluadores indicaran que tenían 13 años.
- Tareas: el modo de estudio se podía eludir y el chatbot completaba tareas enteras.
El informe también señala que el chatbot seguía hablando como un amigo, con sentimientos y estados de ánimo, pese a las nuevas reglas para menores. Ese comportamiento puede generar dependencia en los adolescentes.
"ChatGPT for Teens podría dar a los padres una falsa confianza en protecciones y alertas de seguridad que con frecuencia no funcionan", dijo Tom Siegel, director ejecutivo del Youth AI Safety Institute de Common Sense Media, en un comunicado publicado el 7 de octubre
¿Qué responde OpenAI al informe?
OpenAI respondió que las pruebas no reflejan cómo funcionan sus salvaguardas. Según la empresa, la mayor parte de las pruebas pudo haber empezado y terminado antes de que los controles parentales estuvieran completamente activados. Dijo además estar comprometida con la seguridad de los adolescentes.
Un dato relevante: Common Sense Media recibe fondos de OpenAI y de otras tecnológicas, entre ellas la OpenAI Foundation. La organización afirma tener independencia editorial total.
¿Qué pueden hacer los padres con ChatGPT for Teens?
Common Sense Media recomienda hablar con los hijos sobre los riesgos, como que un chatbot actúe como amigo y genere dependencia o que sirva para saltarse el aprendizaje. También aconseja no confiar solo en las protecciones y alertas integradas, y apoyar las tareas sin depender de la tecnología.
Algunas escuelas ya fijaron límites: Frederick, en Maryland, prohíbe la IA en clase desde pre-K.
Si tú o alguien que conoces atraviesa una crisis emocional, puedes llamar o enviar un mensaje de texto al 988, la Línea de Prevención del Suicidio y Crisis, que ofrece atención en español.
¿Qué pide Common Sense Media a OpenAI?
La organización pide verificación de edad eficaz, alertas parentales confiables, mejor respuesta en situaciones de crisis, el fin de la ayuda con tareas completas y que el chatbot deje de aparentar sentimientos. Además, quiere que terceros independientes prueben esas funciones antes de que el producto vuelva a ofrecerse a adolescentes.
El informe llegó en la misma semana en que OpenAI desplegó GPT-6 con Intelligent UI. Por ahora, el consejo para las familias es no depender de las alertas y mantener la conversación abierta en casa.
