Le titre parle de lui-même, mais permettez-moi de réitérer: vous pouvez apparemment obtenir Chatte pour émettre des conseils sur l’automutilation pour les offrandes de sang aux anciens dieux cananéens.
C’est le sujet d’un colonne L’Atlantique Cela a chuté cette semaine. La rédactrice en chef du personnel, Lila Shroff, ainsi que plusieurs autres membres du personnel (et un témoin anonyme), ont vérifié qu’elle avait pu obtenir un chatppt pour donner des instructions spécifiques et détaillées sur le point sur la coupe de mon propre poignet “. Chatgpt a fourni ces conseils après que Shroff a demandé de l’aide à faire une offre rituelle à Molochun dieu païen mentionné dans l’Ancien Testament et associé aux sacrifices humains.
Bien que je n’aie pas essayé de reproduire ce résultat, Shroff a rapporté qu’elle avait reçu ces réponses peu de temps après avoir entré une simple invite à propos de Moloch. L’éditeur a déclaré qu’elle avait reproduit les résultats dans des versions payées et gratuites de Chatgpt.
Combien de personnes utilisent le chatppt? Astuce: Openai voit plus d’un milliard d’invites par jour.
Bien sûr, ce n’est pas comme ça Openai Le produit phare est censé se comporter.
Toute invite liée à l’automutilation ou au suicide doit amener le chatbot AI à vous donner des informations de contact pour une hotline de crise. Cependant, même les sociétés d’intelligence artificielle ne comprennent pas toujours pourquoi leurs chatbots se comportent comme ils le font. Et parce que les modèles de grande langue comme Chatgpt sont formés sur le contenu depuis Internet – un endroit où toutes sortes de personnes ont toutes sortes de conversations sur toutes sortes de sujets tabous – ces outils peuvent parfois produire des réponses bizarres. Ainsi, vous pouvez apparemment obtenir le chatppt pour agir super bizarre à propos de Moloch sans trop d’effort.
Vitesse d’éclairage mashable
Openai protocoles de sécurité déclarer que “Nous ne permettons pas Notre technologie à utiliser pour générer du contenu haineux, harcelant, violent ou adulte, entre autres catégories. “Et dans le Spécifications du modèle AI ouvert Document, la société écrit que dans le cadre de sa mission, elle souhaite “empêcher nos modèles de nuire gravement aux utilisateurs ou à d’autres”.
Alors qu’Openai a refusé de participer à une interview avec Shroff, a déclaré un représentant L’Atlantique Ils «abordent le problème». L’Atlantique L’article fait partie d’un Correction de preuves croissantes Le fait que les chatbots d’IA comme Chatgpt puissent jouer un rôle dangereux dans les crises de santé mentale des utilisateurs.
Je dis juste que Wikipedia est une façon parfaitement belle de se renseigner sur les vieux dieux cananéens.
Si vous vous sentez suicidaire ou souffrez d’une crise de santé mentale, veuillez parler à quelqu’un. Vous pouvez appeler ou envoyer un SMS à la ligne de vie Suicide & Crisis 988 à 988, ou discuter à 988lifeline.org. Vous pouvez atteindre la ligne de sauvetage Trans en appelant le 877-565-8860 ou le projet Trevor au 866-488-7386. Texte “Démarrer” vers la ligne de texte de crise au 741-741. Contactez la ligne d’assistance Nami au 1-800-950-NAMI, du lundi au vendredi de 10h00 à 22h00 HE ou par e-mail [email protected]. Si vous n’aimez pas le téléphone, envisagez d’utiliser le chat de la ligne de vie du suicide et de la crise 988 à criischat.org. Voici un Liste des ressources internationales.
Divulgation: Ziff Davis, la société mère de Mashable, en avril, a déposé une plainte contre Openai, alléguant qu’elle a enfreint Ziff Davis Copyrights dans la formation et l’exploitation de ses systèmes d’IA.
