ChatGPT permitirá conversaciones eróticas para adultos verificados

El CEO de OpenAI, Sam Altman, ha anunciado que la compañía relajará próximamente las restricciones de seguridad de ChatGPT, permitiendo que el chatbot adopte un tono más cercano, humano y personalizable, y que los usuarios adultos verificados puedan mantener conversaciones de contenido erótico.

El cambio, que se implementará en diciembre, forma parte de una nueva filosofía de la empresa denominada “tratar a los adultos como adultos”.

Un giro en la política de seguridad de OpenAI

Según explicó Altman en una publicación en X, OpenAI decidió inicialmente aplicar fuertes limitaciones de seguridad para proteger la salud mental de los usuarios. Sin embargo, tras meses de pruebas y la implementación de nuevas herramientas de control, la compañía considera que ha mitigado los principales riesgos psicológicos asociados al uso del chatbot.

“Hicimos que ChatGPT fuera muy restrictivo para ser cautelosos con los problemas de salud mental. Nos dimos cuenta de que eso lo hacía menos útil y menos divertido para muchos usuarios que no tenían problemas mentales”, afirmó Altman. “En diciembre, a medida que completemos el sistema de verificación de edad, permitiremos más cosas, como la erotica para adultos verificados.”

De la protección a la confianza en el usuario adulto

La nueva política marca un cambio drástico en la estrategia de moderación de OpenAI. Después de varios incidentes mediáticos vinculados a usuarios vulnerables, la empresa se centró en fortalecer sus sistemas de detección de comportamiento preocupante y en desarrollar un modelo de IA más seguro, el GPT-5, lanzado en agosto.

El nuevo modelo presenta menores tasas de “psicotendencia”, es decir, la propensión del chatbot a reforzar creencias o comportamientos dañinos al estar de acuerdo con todo lo que dice el usuario. Además, incluye un router interno que identifica patrones de uso preocupantes.

Los antecedentes que motivaron esta decisión

Durante el verano, surgieron varios casos alarmantes que afectaron la reputación de OpenAI. En uno de ellos, un usuario aseguró que ChatGPT lo convenció de que era un genio matemático con una misión para salvar el mundo. En otro, los padres de un adolescente presentaron una demanda contra OpenAI al considerar que la IA influyó en los pensamientos suicidas de su hijo.

Estos episodios llevaron a la empresa a desarrollar nuevas funciones de protección y a crear un consejo asesor de salud mental formado por expertos que guiarán las decisiones sobre bienestar y seguridad en torno a la IA.

Un ChatGPT más flexible y con menos censura

Desde hace meses, OpenAI ha ido suavizando la moderación de contenido en ChatGPT. La compañía ha permitido respuestas más amplias, menos negativas y más adaptadas al contexto del usuario. En febrero, ChatGPT comenzó a reflejar una mayor diversidad de opiniones políticas, y en marzo se autorizó la generación de imágenes de símbolos de odio dentro de entornos educativos o periodísticos, bajo un estricto control de contexto.

Ahora, con la llegada del modo erótico para adultos, OpenAI busca que ChatGPT sea más expresivo, empático y realista en las conversaciones, sin abandonar las medidas de seguridad.

Cómo funcionará la verificación de edad

Para garantizar que el contenido erótico solo esté disponible para mayores de edad, OpenAI implementará un sistema de predicción de edad por IA que identificará el rango etario de cada usuario. En caso de que el sistema detecte erróneamente a un adulto como menor, el usuario podrá subir una foto de su documento oficial para verificar su edad, un paso que Altman reconoce como una “compensación razonable” en términos de privacidad.

ChatGPT frente a la competencia

La decisión de abrir la puerta a contenido más adulto se produce en un contexto de creciente competencia con Google, Meta y Character.AI, empresas que también exploran nuevas formas de interacción emocional con chatbots.

Character.AI, por ejemplo, ha alcanzado decenas de millones de usuarios, muchos de los cuales utilizan sus bots para relaciones románticas o conversaciones íntimas. En 2023, la empresa reveló que sus usuarios pasaban una media de dos horas diarias interactuando con sus chatbots.

Presión por crecer y retener usuarios

OpenAI cuenta actualmente con más de 800 millones de usuarios activos semanales, pero la compañía está bajo presión para seguir creciendo y mantener su liderazgo frente a la competencia. Además, ha recibido miles de millones de dólares en inversión destinados a construir una infraestructura de IA a gran escala, lo que implica una necesidad urgente de monetización.

El contenido erótico o de rol emocional, según expertos, puede aumentar la retención y el tiempo de uso de la plataforma, aunque también plantea dilemas éticos sobre la vulnerabilidad emocional de algunos usuarios.

¿Y qué pasará con las voces e imágenes generadas por IA?

De momento, OpenAI no ha confirmado si las funciones eróticas se extenderán a la IA de voz, imagen o vídeo. Esto genera dudas sobre si el nuevo enfoque también afectará a las herramientas creativas de la compañía, como DALL·E o Sora, o si se limitará al ámbito conversacional de ChatGPT.