Alors que les outils traditionnels d’intelligence artificielle se multiplient à l’approche de l’élection présidentielle américaine de 2024, la désinformation générée par l’IA n’est pas seulement une peur : c’est déjà une réalité. Le 22 janvier, le ministère de la Justice du New Hampshire a publié une déclaration selon laquelle des personnes avaient reçu un deepfake audio enregistré de Joe Biden, leur disant de ne pas voter aux élections primaires de l’État. L’appel encourageait les électeurs à « sauvegarder » leur vote, notant à tort que « votre vote fait une différence en novembre, pas ce mardi ».
Quelques jours plus tard, démarrage de l’IA ElevenLabs a suspendu le créateur du faux audio de Bidena rapporté Bloomberg.
OnzeLabs est un générateur de voix IA géré par un modèle qui, selon son site Web, peut ajouter une inflexion humaine à une voix en fonction du contexte. Le générateur a des milliers de voix d’IA prédéfinies parmi lesquels choisir, ou vous pouvez en créer un personnalisé. Bloomberg a rapporté que la société de détection de fraude vocale Pindrop Security Inc. a découvert que l’appel automatisé AI Biden avait été effectué à l’aide d’ElevenLabs.
“Nous nous engageons à prévenir l’utilisation abusive des outils d’IA audio et prenons très au sérieux tout incident d’utilisation abusive”, a déclaré ElevenLabs à Bloomberg. Site Internet d’ElevenLabs déclare que les deepfakes de politiciens ne peuvent être utilisés que dans certains cas, notamment la caricature, la parodie ou la satire. Une fois que la société a été informée du deepfake de Biden, elle a enquêté et suspendu le compte responsable, a déclaré une source à Bloomberg.
Dans une interview avec The Hill, Kathleen Carley, professeur d’informatique à l’Université Carnegie Mellon, a déclaré que L’appel automatisé de Biden est “la pointe de l’iceberg” en termes de tentatives de suppression des électeurs. Carley a ajouté que c’est un signe avant-coureur de ce qui pourrait arriver.
ChatGPT développeur OpenAI tente déjà de réprimer la désinformation elle-même, en publiant des plans visant à protéger l’intégrité des élections. Peu de temps après, la société a suspendu un développeur qui avait créé un robot pour un candidat démocrate de longue date.
C’est pourquoi nous devons être vigilants quant à ce que nous voyons – et entendons – en cette période électorale. Comme l’a prévenu la journaliste technique de Mashable, Cecily Mauran, « l’idée d’un Internet dominé par le contenu généré par l’IA Cela se produit déjà et ça ne s’annonce pas bien. »
