OpenAI presenta «ChatGPT para Adolescentes»: Alertas para padres sobre prompts inapropiados de sus hijos

ChatGPT para Adolescentes: Un Nuevo Enfoque en la IA

Este martes, OpenAI presentó ChatGPT para Adolescentes, una versión adaptada de su popular chatbot, diseñada específicamente para usuarios de entre 13 y 17 años. Esta iniciativa surge en un contexto donde el uso de la inteligencia artificial (IA) entre los adolescentes ha crecido significativamente, suscitando preocupaciones sobre su impacto en la salud mental, el aprendizaje y las dinámicas sociales de los jóvenes.

ChatGPT para Adolescentes no representa un modelo completamente nuevo, sino que es una adaptación del sistema original con medidas de protección específicas para los menores que están activadas por defecto. Ante críticas previas sobre la falta de salvaguardias, OpenAI ha implementado restricciones más estrictas en temas sensibles como autolesiones, suicidio, violencia, trastornos alimentarios, así como en asuntos de carácter sexual o romántico. Además, se busca evitar que el chatbot fomente una dependencia emocional o se presente como un amigo íntimo o pareja.

Herramientas de Aprendizaje Integradas

La nueva versión también incluye herramientas diseñadas para fomentar el aprendizaje. Por ejemplo, el modo de estudio permite que los adolescentes lleguen a las respuestas a través de preguntas y explicaciones detalladas, en lugar de recibir soluciones inmediatas. Este enfoque se complementa con cuestionarios, guías de estudio y recordatorios que redirigen al usuario hacia el modo de estudio cuando se percibe que está buscando respuestas directas para tareas escolares. En este sentido, ChatGPT actúa como un tutor que no ofrece respuestas de manera sencilla, sino que guía al usuario en su proceso de aprendizaje.

Interacción Familiar y Control Parental

Los padres y tutores tienen la opción de vincular su cuenta de ChatGPT con la del adolescente, lo que se puede realizar a través de la configuración de controles parentales. Este proceso implica enviar una invitación por correo electrónico o mensaje de texto, que el adolescente debe aceptar para completar la vinculación. Una vez conectadas, los adultos pueden gestionar diversas funciones, incluyendo el contenido sensible, la memoria, la generación de imágenes y el modo de estudio, así como establecer horarios de uso.

Sin embargo, es importante señalar que los padres no tienen acceso directo a las conversaciones o al historial de actividad del menor en tiempo real. OpenAI ha previsto notificaciones de seguridad en situaciones específicas, como cuando se identifican preocupaciones graves sobre autolesiones o cuando se desactiva una cuenta debido a contenido violento. Estas alertas se enviarán a los padres, pero no incluirán transcripciones de las interacciones.

Desafíos y Críticas al Nuevo Sistema

El lanzamiento de ChatGPT para Adolescentes ha generado reacciones mixtas entre expertos e investigadores que analizan el impacto de la tecnología en los jóvenes. Jonathan Haidt, psicólogo social y autor de «La generación ansiosa», ha expresado serias preocupaciones sobre la exposición de los niños a chatbots, argumentando que estos sistemas pueden simular la amistad sin proporcionar las lecciones valiosas que se obtienen de una relación humana genuina.

Por otro lado, James P. Steyer, fundador y CEO de Common Sense Media, ha abogado por la necesidad de establecer estándares claros y evaluaciones independientes sobre el uso de la IA entre los menores. En el marco del anuncio del Youth AI Safety Institute, ha señalado que las decisiones en torno a estas tecnologías se están tomando sin contar con suficiente evidencia sobre sus efectos en el desarrollo infantil. Su organización destaca que más de la mitad de los adolescentes en Estados Unidos interactúa regularmente con chatbots.

Un Futuro por Definir para la IA Juvenil

La Asociación Estadounidense de Psicología también ha manifestado su preocupación respecto a los riesgos de utilizar IA generativa como sustituto de apoyo emocional o relaciones humanas. Recomiendan que los adolescentes no permitan que la IA reemplace las conexiones sociales o la atención profesional que necesitan.

Con más de mil millones de usuarios mensuales, ChatGPT se mantiene como el chatbot más utilizado a nivel mundial, y una parte considerable de su base de usuarios está compuesta por menores. Queda por ver si OpenAI podrá abordar las inquietudes planteadas o al menos mitigar los riesgos asociados con su nueva propuesta. La evaluación de esta herramienta dependerá, en gran medida, de los estudios e informes que realicen investigadores y especialistas en el futuro.