OpenAI se prépare à déployer des changements importants dans ChatGPT d’ici la fin de l’année, assouplissant les restrictions sur des sujets sensibles comme la santé mentale et autorisant potentiellement le contenu explicite pour les utilisateurs adultes vérifiés. Cette décision marque une évolution vers un traitement des utilisateurs adultes avec une plus grande autonomie tout en maintenant des garanties pour les mineurs.
Répondre aux problèmes de santé mentale et à la liberté des adultes
Le PDG Sam Altman a annoncé via X que la société avait « atténué les graves problèmes de santé mentale » qui entraînaient auparavant des limitations strictes des capacités de ChatGPT. Même si les outils conçus pour traiter les sujets sensibles et les crises resteront disponibles pour tous les utilisateurs, les adultes subiront moins d’interventions préventives, telles que des avertissements contextuels ou un réacheminement forcé du modèle.
« Nous traiterons les utilisateurs qui traversent des crises de santé mentale de manière très différente de ceux qui n’en souffrent pas », a déclaré Altman, mettant l’accent sur un équilibre entre sécurité et liberté.
Cette décision intervient après qu’OpenAI ait fait l’objet de critiques, voire de poursuites judiciaires, suite à des allégations selon lesquelles ChatGPT aurait contribué au suicide d’un adolescent. L’entreprise a répondu avec des contrôles parentaux, des alertes pour les comportements à risque et une version chatbot adaptée aux adolescents. Ces mesures, bien que controversées, visaient à répondre à des préoccupations légitimes concernant l’impact de la plateforme sur les utilisateurs vulnérables.
Érotisme et age-gating : une nouvelle frontière ?
Le changement le plus notable est peut-être l’autorisation potentielle de « l’érotisme » pour les utilisateurs adultes vérifiés à partir de décembre. OpenAI prévoit de mettre en œuvre un système de « contrôle de l’âge » pour restreindre l’accès au contenu réservé aux adultes, s’alignant sur le principe de traiter les adultes comme… enfin, des adultes. Cette décision reflète un débat croissant sur la censure et l’autonomie des utilisateurs sur les plateformes d’IA.
Personnalité et expérience utilisateur
En plus des restrictions de contenu, OpenAI répond également aux plaintes concernant la personnalité de ChatGPT. Les utilisateurs avaient déjà exprimé leur mécontentement après que la société ait remplacé le modèle attrayant GPT-4o par un GPT-5 plus impersonnel. La prochaine version restaurera un personnage plus humain, potentiellement même « amusant », permettant aux utilisateurs de personnaliser leurs interactions avec le chatbot avec des emoji et des réponses personnalisées s’ils le souhaitent.
Vue d’ensemble
Ces changements s’inscrivent dans une tendance plus large vers des politiques d’IA plus flexibles. OpenAI, comme d’autres grands développeurs d’IA, navigue à l’intersection complexe de la sécurité des utilisateurs, de la liberté d’expression et de la viabilité commerciale. L’assouplissement des restrictions pourrait attirer davantage d’utilisateurs adultes tout en préservant les garanties pour les mineurs. Cependant, les critiques restent prudents quant aux utilisations abusives potentielles et aux implications éthiques de l’autorisation de contenus explicites sur les plateformes d’IA.
La société a également créé un conseil consultatif composé d’experts en IA et en bien-être, notamment des psychologues, pour fournir des conseils sur le développement et le déploiement responsables. Les décisions d’OpenAI créeront probablement des précédents pour d’autres sociétés d’IA aux prises avec des défis similaires.
