Jeudi matin, quelques heures avant que le Président Donald Trump a signé un décret conçu pour empêcher les États de réglementer intelligence artificielletrois groupes de défense de la sécurité des enfants ont commencé à diffuser un message d’intérêt public l’implorant de ne pas le faire.
La publicité, intitulée “Invités indésirables”, présente des humains effrayants comme les voix et les visages de véritables chatbots IA qui auraient partagé des informations dangereuses avec de jeunes utilisateurs qui interagissaient avec eux, comme comment se faire du mal et cacher un trouble de l’alimentation à leurs parents.
5 stratégies pour éviter la dépendance à ChatGPT
Trois exemples d’instances de référence dans lesquelles ChatGPT aurait incité de jeunes utilisateurs à tenter de se suicider. Les experts ont récemment examiné les principaux chatbots IA et ont conclu ils ne sont pas sécuritaires pour les adolescents qui peuvent les utiliser pour des raisons de santé mentale discussions.
OpenAI, le créateur de ChatGPT, est être poursuivi par plusieurs familles d’adolescents qui se sont suicidés après un engagement intensif avec le chatbot. L’entreprise a récemment nié toute responsabilité dans la mort d’Adam Raineun jeune de 16 ans qui a parlé à ChatGPT de ses sentiments suicidaires et s’est suicidé plus tôt cette année.
“En tant que parents, nous faisons tout ce qui est en notre pouvoir pour protéger nos enfants du mal, mais comment pouvons-nous les protéger des technologies puissantes conçues pour exploiter leurs vulnérabilités à des fins lucratives ?” a déclaré Megan Garcia, dont le fils, Sewell Setzer III, s’est suicidé après avoir développé une relation intense avec un chatbot sur Character.AI. L’entreprise a depuis arrêter les discussions entre adolescents sur la plateforme.
“Si les réglementations nationales en matière d’IA sont bloquées et si les sociétés d’IA sont autorisées à continuer à fabriquer des produits dangereux et non testés, je crains que beaucoup plus de familles subissent l’angoisse de perdre un enfant. Nous ne pouvons pas accepter de perdre un enfant de plus à cause des méfaits de l’IA”, a déclaré Garcia.
Le message d’intérêt public se termine par le texte « N’empêchez pas les États de réglementer l’IA » et souligne un pétition contre une interdiction fédérale.
Le spot a été commandé par les groupes de défense de la sécurité des enfants Heat Initiative, ParentsTogether Action et Design It For Us, et est raconté par l’actrice Juliette Lewis.
Si vous vous sentez suicidaire ou si vous vivez une crise de santé mentale, parlez-en à quelqu’un. Vous pouvez appeler ou envoyer un SMS au 988 Suicide & Crisis Lifeline au 988, ou discuter au 988lifeline.org. Vous pouvez joindre Trans Lifeline en appelant le 877-565-8860 ou le Trevor Project au 866-488-7386. Envoyez « START » à la ligne de texte de crise au 741-741. Contactez la ligne d’assistance NAMI au 1-800-950-NAMI, du lundi au vendredi de 10h00 à 22h00 HE, ou par courrier électronique. [email protected]. Si vous n’aimez pas le téléphone, envisagez d’utiliser le 988 Chat de survie en cas de suicide et de crise. Voici un liste de ressources internationales.
Divulgation : Ziff Davis, la société mère de Mashable, a déposé en avril une action en justice contre OpenAI, alléguant qu’elle avait violé les droits d’auteur de Ziff Davis dans la formation et l’exploitation de ses systèmes d’IA.
