OpenAI se está preparando para implementar cambios significativos en ChatGPT para fin de año, relajando las restricciones sobre temas delicados como la salud mental y potencialmente permitiendo contenido explícito para usuarios adultos verificados. La medida indica un cambio hacia el tratamiento de los usuarios adultos con mayor autonomía y al mismo tiempo se mantienen las salvaguardias para los menores.
Abordar las preocupaciones de salud mental y la libertad de los adultos
El director ejecutivo Sam Altman anunció a través de X que la compañía ha “mitigado los graves problemas de salud mental” que anteriormente provocaban estrictas limitaciones a las capacidades de ChatGPT. Si bien las herramientas diseñadas para manejar temas delicados y crisis seguirán estando disponibles para todos los usuarios, los adultos experimentarán menos intervenciones preventivas, como advertencias emergentes o desvíos forzados del modelo.
“Trataremos a los usuarios que están atravesando crisis de salud mental de manera muy diferente a los usuarios que no las tienen”, afirmó Altman, enfatizando el equilibrio entre seguridad y libertad.
Esta decisión se produce después de que OpenAI enfrentara críticas e incluso acciones legales tras acusaciones de que ChatGPT contribuyó al suicidio de un adolescente. La empresa respondió con controles parentales, alertas de comportamientos riesgosos y una versión de chatbot para adolescentes. Estas medidas, aunque controvertidas, tenían como objetivo abordar preocupaciones legítimas sobre el impacto de la plataforma en los usuarios vulnerables.
Erótica y envejecimiento: ¿una nueva frontera?
Quizás el cambio más notable es la posible concesión de contenido “erótico” para usuarios adultos verificados a partir de diciembre. OpenAI planea implementar un sistema de “restricción de edad” para restringir el acceso a contenido para adultos, alineándose con el principio de tratar a los adultos como… bueno, adultos. Esta decisión refleja un creciente debate sobre la censura y la autonomía del usuario en las plataformas de IA.
Personalidad y experiencia de usuario
Además de las restricciones de contenido, OpenAI también está abordando quejas sobre la personalidad de ChatGPT. Los usuarios anteriormente expresaron su descontento después de que la compañía reemplazó el atractivo modelo GPT-4o por un GPT-5 más impersonal. La próxima versión restaurará una personalidad más humana, potencialmente incluso “divertida”, permitiendo a los usuarios personalizar sus interacciones de chatbot con emoji y respuestas personalizadas si lo desean.
El panorama más amplio
Estos cambios son parte de una tendencia más amplia hacia políticas de IA más flexibles. OpenAI, al igual que otros desarrolladores importantes de IA, está navegando por la compleja intersección de la seguridad del usuario, la libre expresión y la viabilidad comercial. La flexibilización de las restricciones podría atraer a más usuarios adultos y al mismo tiempo preservar las salvaguardias para los menores. Sin embargo, los críticos siguen desconfiando del posible uso indebido y de las implicaciones éticas de permitir contenido explícito en las plataformas de IA.
La compañía también ha creado un consejo asesor de expertos en inteligencia artificial y bienestar, incluidos psicólogos, para brindar orientación sobre el desarrollo y la implementación responsables. Las decisiones de OpenAI probablemente sentarán precedentes para otras empresas de IA que enfrentan desafíos similares.
