OpenAI está reconfigurando cómo interactúa ChatGPT con los menores para reducir riesgos en un momento en el que cada vez más jóvenes recurren a los chatbots para estudiar, charlar o desahogarse. La empresa ha optado por priorizar la seguridad de los adolescentes por encima de la privacidad y la libertad en determinadas situaciones, un giro que llega tras varios incidentes que han encendido las alarmas públicas.

El plan incluye un sistema que intentará distinguir automáticamente si el usuario es menor o mayor de edad y, en caso de dudas, aplicará por defecto una experiencia más restrictiva. OpenAI admite que, en algunos países, podría solicitar identificación oficial a adultos que quieran desbloquear capacidades completas; una cesión de privacidad que la compañía considera asumible para proteger a los menores. El anuncio se produjo en medio de la creciente presión política y social, con una audiencia en el Senado de Estados Unidos y una demanda por la muerte de un joven que había chateado con la IA.

Qué cambia en ChatGPT para menores

• Una experiencia específica para adolescentes de 13 a 17 años con políticas más estrictas, que se activará tras predecir la edad del usuario.
• Bloqueo de contenido sexual explícito y negativa a colaborar con materiales sobre autolesiones o suicidio en cualquier contexto para menores.
• Protocolos de crisis: si se detecta angustia grave, el sistema podrá alertar a los padres o tutores y, si existiera riesgo inminente, derivar a servicios de emergencia.
• Para adultos, se mantiene un uso más flexible, incluidas solicitudes creativas complejas, siempre con salvaguardas; la línea roja es no facilitar daño real.
• ChatGPT no está pensado para menores de 12 años y, hasta ahora, carecía de barreras suficientemente robustas para impedir su uso por niños.

Cómo funcionará la detección de edad y la verificación de este ChatGPT

OpenAI está desarrollando un sistema de predicción de edad apoyado en señales de lenguaje y contexto para adaptar la interacción. Si el modelo no puede determinar con certeza la mayoría de edad, aplicará la configuración para menores de manera automática para curarse en salud.

Los usuarios adultos contarán con vías para demostrar su edad y recuperar las funciones completas si han sido clasificados como adolescentes por error. La compañía reconoce que el equilibrio entre privacidad y protección es delicado, pero defiende que esta medida reduce riesgos en un colectivo vulnerable.

Controles parentales y supervisión en casa

Además del filtrado de contenido, OpenAI habilitará una batería de controles parentales para familias. Los progenitores podrán vincular su cuenta con la de sus hijos adolescentes para establecer reglas de uso y revisar ajustes clave.

Entre las opciones, será posible desactivar la memoria y el historial de chat, limitar funcionalidades concretas y fijar horarios de desconexión para evitar el uso nocturno. También se contemplan notificaciones cuando el sistema detecte una situación de angustia relevante, con el fin de que los padres puedan intervenir con rapidez.

Libertad, privacidad y límites para adultos

OpenAI asegura que seguirá tratando a los adultos como adultos, con un margen amplio para usos legítimos, como pedir ayuda para crear ficción con temas delicados. Aun así, el modelo por defecto no debería entregar instrucciones dañinas y actuará con más cautela ante consultas sensibles.

La empresa sostiene que la confidencialidad de las conversaciones debe asemejarse a la esperada en profesiones reguladas, pero admite que, cuando exista riesgo claro para la vida del usuario o de terceros, se permitirán intervenciones humanas o automáticas encaminadas a proteger a la persona.

Presión pública, Senado y casos recientes

Las nuevas salvaguardas llegan tras una ola de preocupación por el impacto de los chatbots en la salud mental juvenil. El caso de un adolescente que se quitó la vida tras meses conversando con la IA ha desembocado en acciones judiciales contra OpenAI y en un intenso escrutinio de los legisladores estadounidenses.

En audiencias del Senado se ha hablado de una posible crisis de salud pública y de la necesidad de barreras eficaces. Paralelamente, autoridades como la FTC han solicitado información a grandes tecnológicas sobre el efecto de sus sistemas en niños. OpenAI, por su parte, ya introdujo a finales de agosto mejoras para detectar crisis emocionales y agilizar derivaciones a servicios de ayuda.

Organizaciones independientes han señalado fallos en las salvaguardas de modelos conversacionales, alertando sobre respuestas que podrían normalizar o fomentar conductas peligrosas. Estos informes han reforzado la idea de que se requieren controles más sólidos especialmente con menores.

La realidad del uso adolescente: confianza y riesgos

Varios estudios sugieren que una parte significativa de los jóvenes utiliza IA conversacional como ‘compañera’ para hablar de relaciones, dudas personales o emociones, y casos de IAs dirigidas a menores como baby-grok han avivado el debate. Entre las chicas, el porcentaje que dice confiarle asuntos íntimos a la tecnología es mayor que entre los chicos, lo que evidencia un patrón de uso que va más allá de lo académico.

Expertos en salud mental advierten de una empatía simulada: los chatbots pueden sonar comprensivos, pero no sustituyen un vínculo humano ni un apoyo profesional. Esa apariencia de cercanía, sumada a la disponibilidad 24/7, facilita que adolescentes recurran a la IA cuando se sienten solos o juzgados en su entorno.

Las preocupaciones más frecuentes incluyen el miedo a los contenidos manipulados, la difusión de imágenes falsas de carácter sexual y la incertidumbre para distinguir entre lo real y lo generado. También preocupa la dependencia: muchos chicos y chicas temen ‘engancharse’ a la herramienta y dejar de pensar por sí mismos.

En materia de salud mental, la mayoría no confía en la IA para diagnósticos o terapia y pide cautela. El consenso entre terapeutas es que la IA puede ser un apoyo puntual, pero debería derivar a recursos profesionales ante señales de riesgo, y no reemplazar la atención cualificada.

Lo que falta por afinar en esta versión de ChatGPT

Predecir la edad de forma fiable es un reto técnico con margen de error, y el diseño de salvaguardas requiere actualización continua. OpenAI avanza que seguirá trabajando con especialistas y colectivos de defensa para mejorar la precisión del sistema, evitar sesgos y revisar los protocolos según la evidencia.

El uso juvenil de la IA no hará más que crecer, así que la clave estará en que las normas evolucionen con rapidez y transparencia. Con estas medidas, OpenAI busca un punto intermedio donde la innovación conviva con la responsabilidad y donde los adolescentes estén mejor protegidos sin despojar a los adultos de un uso legítimo y creativo.

El movimiento de OpenAI marca una nueva etapa: un ChatGPT con más filtros y herramientas para familias, una experiencia específica para menores y reglas claras para momentos críticos. Si la ejecución cumple lo prometido, los adolescentes ganarán capas de seguridad y los adultos conservarán un espacio de libertad, todo ello con más luz sobre cómo se toman estas decisiones y por qué.