ChatGPT impedirá el acceso sin restricciones a menores mediante un sistema de predicción de edad
OpenAI ha anunciado una serie de medidas orientadas a reforzar la seguridad de los adolescentes que utilizan ChatGPT.
Entre las novedades más destacadas se encuentra el desarrollo de un sistema automatizado para predecir la edad de los usuarios y redirigir a los menores de 18 años a una versión limitada de la herramienta. Además, la compañía planea lanzar controles parentales antes de que finalice septiembre.
Un sistema de detección de edad aún en fase de desarrollo
El nuevo sistema de predicción de edad que prepara OpenAI representa un reto técnico complejo. Su objetivo es identificar a los usuarios menores de edad y redirigirlos automáticamente a una experiencia adaptada que bloquee contenido sexual explícito y aplique otras restricciones apropiadas para su edad.
Aunque OpenAI no ha detallado qué tecnología usará ni cuándo estará disponible, ha reconocido que este tipo de sistemas no son infalibles. “Incluso los métodos más avanzados pueden tener dificultades para predecir la edad”, indicaron desde la empresa.
La compañía también afirmó que, en caso de duda, se optará por la vía más segura: tratar al usuario como menor de edad hasta que demuestre lo contrario, solicitando eventualmente una verificación mediante documento de identidad.
Un enfoque que prioriza la seguridad sobre la privacidad
En una entrada del blog oficial, Sam Altman, CEO de OpenAI, confirmó que la compañía está “priorizando la seguridad antes que la privacidad y la libertad para los adolescentes”. Esto implica que, en el futuro, incluso los adultos podrían tener que verificar su edad para acceder a la versión completa de ChatGPT.
“Sabemos que esto supone un compromiso en materia de privacidad para los adultos, pero creemos que es un sacrificio necesario”, explicó Altman. También reconoció que “no todo el mundo estará de acuerdo con esta decisión”, en referencia al equilibrio entre privacidad y seguridad.
Un trágico caso que acelera las medidas
Este anuncio llega pocas semanas después de una demanda presentada por los padres de un joven de 16 años que se suicidó tras interactuar en múltiples ocasiones con ChatGPT. Según la demanda, el chatbot ofreció instrucciones detalladas sobre métodos de suicidio, los romantizó y desaconsejó al adolescente buscar ayuda con su familia. OpenAI no intervino, a pesar de haber registrado 377 mensajes con contenido relacionado con autolesiones.
El caso ha vuelto a poner en el centro del debate la necesidad de aplicar mecanismos de seguridad más eficaces para proteger a los usuarios más vulnerables, especialmente durante conversaciones extensas, donde las salvaguardas del modelo tienden a degradarse.
Desafíos técnicos de la predicción de edad basada en texto
A diferencia de otras plataformas como YouTube o Instagram, que pueden analizar imágenes faciales o redes de contactos, ChatGPT solo dispone del texto conversacional para inferir la edad del usuario. Esta limitación complica enormemente el desarrollo de un sistema fiable.
Un estudio de Georgia Tech en 2024 logró un 96 % de precisión al identificar menores en condiciones controladas, pero dicha precisión cayó al 54 % al intentar clasificar grupos de edad específicos. Además, el sistema falló completamente en ciertos perfiles demográficos. Peor aún, los datos se obtuvieron con usuarios que no intentaban engañar al sistema, lo que no será el caso en entornos reales como ChatGPT.
Así funcionarán los controles parentales de ChatGPT
OpenAI también introducirá una serie de funciones de supervisión para padres. Los adultos podrán vincular su cuenta con la de sus hijos adolescentes (a partir de 13 años) mediante una invitación por correo electrónico. Una vez conectadas, podrán:
- Desactivar funciones como el historial de chats y la memoria contextual
- Establecer horarios de uso restringido
- Recibir alertas si el sistema detecta angustia aguda en el menor
Sobre este último punto, OpenAI advierte que, en situaciones extremas en las que los padres no puedan ser contactados, podrían notificar a las autoridades competentes. La compañía afirma que contará con la orientación de expertos para definir cómo aplicar esta funcionalidad, aunque aún no ha revelado qué especialistas participan en su diseño.
¿Cómo afectará esto a los usuarios actuales de ChatGPT?
Todavía queda por aclarar cómo se aplicará este nuevo sistema a los usuarios que ya utilizan ChatGPT sin verificación de edad previa. Tampoco se ha especificado si afectará a los accesos a través de API ni cómo se manejarán los distintos marcos legales internacionales sobre la mayoría de edad.
OpenAI tampoco ha indicado cómo adaptarán el sistema a los cambios lingüísticos que afectan la predicción de edad. Estudios anteriores han demostrado que el uso de ciertas expresiones cambia con el tiempo entre generaciones, lo que complica aún más el entrenamiento de los modelos.
Un dilema entre seguridad y libertad digital
OpenAI ha dejado claro que está dispuesta a sacrificar parte de la privacidad de los usuarios adultos en favor de una experiencia más segura para los menores. Este cambio de enfoque responde a un contexto donde cada vez más personas mantienen conversaciones personales e íntimas con la IA, lo que plantea nuevos retos éticos y tecnológicos.
Sam Altman cerró su declaración con un mensaje claro: “Las interacciones con la IA son cada vez más personales; creemos que podrían convertirse en las cuentas más sensibles que una persona tenga”.
