Aujourd’hui, OpenAI a lancé GPT-5.2vantant ses meilleures performances en matière de sécurité en matière de santé mentale.
“Avec cette version, nous avons poursuivi notre travail pour renforcer les réponses de nos modèles dans les conversations sensibles, avec des améliorations significatives dans la façon dont ils répondent aux invites indiquant des signes de suicide ou d’automutilation, de détresse mentale ou de dépendance émotionnelle à l’égard du modèle.” Article de blog d’OpenAI États.
OpenAI a récemment fait l’objet de critiques et de poursuites, qui accusent ChatGPT de contribuer au comportement de certains utilisateurs. psychose, paranoïa et délires. Certains de ces utilisateurs se sont suicidés après de longues conversations avec le chatbot IA, qui a eu un problème de flagornerie bien documenté.
En réponse à une poursuite pour mort injustifiée concernant le suicide d’Adam Raine, 16 ansOpenAI a nié la responsabilité du LLM, a affirmé que ChatGPT avait demandé à l’adolescent de demander de l’aide pour ses pensées suicidaires et a déclaré que l’adolescent avait “abusé” de la plateforme. En parallèle, OpenAI s’est engagé à améliorer la façon dont ChatGPT répond lorsque les utilisateurs affichent des signes avant-coureurs d’automutilation et de crises de santé mentale. Autant d’utilisateurs développer des attachements émotionnels aux chatbots IA Comme ChatGPT, les entreprises d’IA font l’objet d’une surveillance croissante quant aux garanties qu’elles ont mises en place pour protéger les utilisateurs.
Désormais, OpenAI affirme que ses derniers modèles ChatGPT offriront « moins de réponses indésirables » dans les situations sensibles.
Dans le billet de blog annonçant GPT-5.2, OpenAI déclare que GPT-5.2 obtient des résultats plus élevés aux tests de sécurité liés à la santé mentale, à la confiance émotionnelle et à l’automutilation par rapport aux modèles GPT-5.1. Auparavant, OpenAI avait déclaré qu’il utilisait la « complétion sécurisée », un nouvelle approche de formation à la sécurité qui équilibre serviabilité et sécurité. Plus d’informations sur les performances des nouveaux modèles peuvent être trouvées dans le Carte système 5.2.
Vitesse de la lumière écrasable
Crédit : Capture d’écran : OpenAI
Cependant, la société a également observé que GPT-5.2 refuse moins de demandes de contenu réservé aux adultes, notamment de textes à caractère sexuel. OpenAI a précisé à Mashable qu’il avait mis en œuvre des protections au niveau du système pour atténuer ce comportement, et les tests indiquent que ces protections sont utiles. OpenAI n’a pas répondu à la manière dont cela fonctionnerait dans le cas d’utilisateurs adultes souhaitant le faire. générer de l’érotismecomme Le “mode adulte” devrait être lancé l’année prochaine.
Mais cela n’a apparemment pas d’impact sur les utilisateurs qu’OpenAI sait être mineurs, car la société déclare que ses garanties d’âge “semblent bien fonctionner”. OpenAI applique des protections de contenu supplémentaires pour les mineurs, notamment en réduisant l’accès aux contenus contenant de la violence, du sang, des défis viraux, des jeux de rôle de nature sexuelle, romantique ou violente et des « normes de beauté extrêmes ».
Un modèle de prédiction de l’âge est également en préparation, qui permettra à ChatGPT d’estimer l’âge de ses utilisateurs afin de fournir un contenu plus adapté à l’âge des utilisateurs plus jeunes.
Plus tôt cet automne, OpenAI a introduit contrôle parental dans ChatGPTy compris la surveillance et la restriction de certains types d’utilisation.
OpenAI n’est pas la seule entreprise d’IA accusée d’exacerber les problèmes de santé mentale. L’année dernière, un la mère a poursuivi Character.AI après la mort de son fils par suicide, et un autre procès prétend les enfants ont été gravement blessés par les « personnages » de cette plateforme. Character.AI a été déclaré dangereux pour les adolescents par des experts en sécurité en ligne. De même, les chatbots IA de diverses plateformes, dont OpenAI, ont été déclarés dangereux pour la santé mentale des adolescents selon des experts en sécurité des enfants et en santé mentale.
Si vous vous sentez suicidaire ou si vous vivez une crise de santé mentale, parlez-en à quelqu’un. Vous pouvez appeler ou envoyer un SMS au 988 Suicide & Crisis Lifeline au 988, ou discuter au 988lifeline.org. Vous pouvez joindre Trans Lifeline en appelant le 877-565-8860 ou le Trevor Project au 866-488-7386. Envoyez « START » à la ligne de texte de crise au 741-741. Contactez la ligne d’assistance NAMI au 1-800-950-NAMI, du lundi au vendredi de 10h00 à 22h00 HE, ou par courrier électronique. [email protected]. Si vous n’aimez pas le téléphone, envisagez d’utiliser le 988 Chat de survie en cas de suicide et de crise. Voici un liste de ressources internationales.
Divulgation : Ziff Davis, la société mère de Mashable, a déposé en avril une action en justice contre OpenAI, alléguant qu’elle avait violé les droits d’auteur de Ziff Davis dans la formation et l’exploitation de ses systèmes d’IA.
MISE À JOUR : 12 décembre 2025, 12 h 14 HNE Cet article a été mis à jour avec clarté sur le refus de GPT-5.2 des demandes de contenu réservé aux adultes.
