OpenAI presentó "ChatGPT para adolescentes" (ChatGPT for Teens), una versión diseñada para reducir el riesgo de dependencia emocional de la inteligencia artificial en menores y mejorar la efectividad del aprendizaje, informó la empresa el 19 de agosto. La versión se aplica automáticamente cuando el sistema estima que el usuario tiene menos de 18 años o cuando el usuario declara directamente tener entre 13 y 17 años.
OpenAI diseñó este producto con el objetivo de que los adolescentes comprendan conceptos por sí mismos y resuelvan problemas a través de la inteligencia artificial, en lugar de obtener respuestas de forma fácil. Los estudiantes que se preparan para exámenes pueden solicitar explicaciones de conceptos desconocidos o resolver ejercicios prácticos paso a paso para verificar su nivel de comprensión.
Cuando se detecta que el usuario intenta obtener respuestas directas a tareas, ChatGPT lo dirige al "Modo de estudio (Study Mode)" para que participe en el proceso de resolución. Este modo fue diseñado junto con maestros, científicos y expertos en educación, e incluye preguntas guiadas, apoyo paso a paso, preguntas para verificar el proceso de pensamiento y funciones de comprobación de comprensión que ayudan a los estudiantes a resolver problemas por sí mismos en lugar de recibir respuestas directas.
La plataforma también incorpora "Notificación responsable de tareas" que guía a los usuarios que intentan omitir tareas hacia el modo de estudio, funciones de cuestionarios y visualización de aprendizaje, así como "Horario de estudio (Study Hours)", una función que activa automáticamente el modo de estudio en los horarios designados por el adolescente o los padres.
Los usuarios adolescentes tienen medidas de seguridad adaptadas a su edad activadas por defecto. OpenAI reforzó las protecciones a nivel de modelo y producto para reducir la exposición a contenido dañino o inapropiado para el desarrollo en áreas de alto riesgo como autolesiones, violencia, trastornos de la alimentación, comportamientos peligrosos y contenido sexual o violento explícito. Estos criterios se basan en los "Principios para usuarios menores de 18 años" de OpenAI, que reflejan investigación en ciencias del desarrollo y opiniones de expertos.
En cuentas de adolescentes vinculadas a padres, estos pueden establecer límites de tiempo de uso y gestionar algunas configuraciones. Se envían notificaciones a los padres si se detectan situaciones de alto riesgo limitado.
Sin embargo, OpenAI aclaró que reflejó en el diseño del producto el principio de que la inteligencia artificial debe asumir funciones de apoyo educativo fuera del aula, mientras que los maestros deben liderar la forma en que se utiliza la inteligencia artificial en entornos educativos.
La plataforma también incluye mecanismos para promover un uso saludable y equilibrado. Se proporcionan notificaciones que recomiendan descansos cuando el uso supera cierto tiempo, y ChatGPT recuerda continuamente a los usuarios que es una inteligencia artificial para evitar que la confundan con una persona. De acuerdo con las directrices del modelo para usuarios menores de 18 años, ChatGPT no expresa sentimientos románticos, no fomenta la dependencia emocional y no simula tener emociones o conciencia.
Además, OpenAI advierte a los usuarios antes de compartir imágenes sensibles o que contengan información personal, e introduce las funciones de aprendizaje y seguridad en la guía inicial para adolescentes. Se ofrecen personalizaciones simples como colores destacados y opciones de voz, pero el diseño evita que los límites entre herramientas útiles y relaciones humanas se difuminen.
* Este artículo ha sido traducido por IA.
