OpenAI ha dado un paso más en su estrategia para garantizar un uso seguro de la inteligencia artificial por parte de los adolescentes. La compañía anunció que trabaja en un sistema de predicción de edad destinado a adaptar la experiencia de ChatGPT según si el usuario es mayor o menor de 18 años, y en la implementación de controles parentales que permitan a las familias guiar y supervisar el uso de la herramienta.
Predicción de edad: experiencias diferenciadas para adultos y adolescentes
La idea central es que un modelo de IA no debe responder de la misma manera a un usuario de 15 años que a uno de 30. Para lograrlo, OpenAI está construyendo un sistema a largo plazo que identifique si un usuario es mayor o menor de edad y, en función de ello, aplique políticas diferentes:
- Menores de 18 años: acceso a una versión de ChatGPT con políticas adaptadas, que bloqueará contenidos sexuales explícitos y evitará interacciones consideradas inapropiadas. En situaciones extremas, como casos de angustia aguda, la compañía contempla involucrar a las autoridades si no consigue contactar antes con los padres.
- Adultos: acceso completo a las funciones, aunque con la posibilidad de que se solicite una verificación de edad si el sistema no tiene certeza suficiente sobre la mayoría de edad.
OpenAI reconoce que incluso los sistemas más avanzados no siempre acertarán en la estimación de edad, por lo que ha optado por una estrategia de precaución: en caso de duda, el usuario será tratado como menor de edad hasta que se demuestre lo contrario.
Controles parentales: más herramientas para las familias
Mientras se perfecciona la predicción automática, OpenAI confía en que los controles parentales sean la vía más efectiva para que las familias regulen el uso de ChatGPT en el hogar. Estarán disponibles a finales de este mes e incluirán:
- Vinculación de cuentas: los padres podrán conectar su cuenta con la de su hijo adolescente (a partir de 13 años) mediante una invitación por correo electrónico.
- Guía del comportamiento del modelo: posibilidad de ajustar cómo responde ChatGPT en función de reglas específicas para adolescentes.
- Gestión de funciones: opción de desactivar características como la memoria o el historial de chats.
- Alertas en situaciones críticas: notificaciones automáticas cuando el sistema detecte que el adolescente atraviesa un momento de fuerte angustia. Si no se logra contactar con la familia, se podría recurrir a las autoridades.
- Horas de apagado: un nuevo control que permitirá establecer franjas horarias en las que el adolescente no podrá usar ChatGPT.
Estas funciones se suman a medidas disponibles para todos los usuarios, como los recordatorios en sesiones largas que fomentan las pausas regulares.
Un camino en construcción
OpenAI admite que este equilibrio no es fácil. Por un lado, está la necesidad de proteger a los menores de riesgos asociados al uso de la IA; por otro, el respeto a la privacidad y la autonomía de los adultos.
La empresa asegura que sigue trabajando con expertos, asociaciones y legisladores para ajustar las medidas y lograr que el modelo evolucione en un marco de confianza. “Las voces de la sociedad civil y de las familias son las que darán forma a este esfuerzo”, indicó la compañía en su comunicado.
Conclusión
El anuncio de OpenAI marca un nuevo paso en el debate sobre cómo deben interactuar los adolescentes con la inteligencia artificial. Con un sistema de predicción de edad en desarrollo y controles parentales que amplían la capacidad de supervisión, la compañía intenta situarse en un punto intermedio entre la protección de los menores y la confianza de los adultos.
Preguntas frecuentes
¿Cómo funcionará la predicción de edad en ChatGPT?
Analizará patrones de uso para estimar si el usuario es menor o mayor de 18 años. En caso de duda, se aplicará la experiencia restringida para adolescentes.
¿Qué tipo de contenidos estarán bloqueados para los menores?
Entre otros, se bloqueará contenido sexual explícito o interacciones que traten sobre autolesión, incluso en contextos ficticios o creativos.
¿Qué funciones incluirán los controles parentales?
Permitirán vincular cuentas, desactivar funciones como el historial de chats, definir reglas de comportamiento del modelo, recibir alertas en emergencias y establecer horarios de uso restringido.
¿Qué pasará en casos de crisis emocional en adolescentes?
El sistema intentará contactar primero con los padres. Si no es posible y existe riesgo inmediato, OpenAI podría involucrar a las autoridades para garantizar la seguridad del menor.
vía: openai
