Plus tôt ce mois-ci, la maman de Floride, Sharon Brightwell, a reçu un appel paniqué de sa fille, qui a déclaré qu’elle était impliquée dans un accident de voiture qui a blessé une femme enceinte. Mais ce n’était pas la fille de Brightwell, avril, à l’autre bout de la ligne; C’était une voix clonée de la sienne.
Après que le Deepfake ait inventé une histoire sur la conduite en avril et les SMS et les déclarations de son téléphone a été confisquée par la police – par conséquent, le numéro de téléphone inconnu dont elle aurait appelé – un homme est venu en ligne semblant être un défenseur public et a demandé 15 000 $ pour renflouer avril. Brightwell s’est conformé, rassemblant l’argent, le plaçant dans une boîte et le remettant à un courrier à forfait Uber à son domicile. Ce n’est qu’après l’arrivée d’un autre appel, cette fois demandant 30 000 $ pour la “femme enceinte blessée”, que le petit-fils de Brightwell a réalisé que sa famille était arnaquée.
“Pour vous dire le traumatisme que ma mère et mon fils ont traversé ce jour-là me rend nauséeux et m’ont fait perdre plus de confiance en l’humanité,” April a écrit sur une page GoFundMe. “Le mal est un mot trop gentil pour le genre de personnes qui peuvent le faire.”
Les escroqueries Deepfake ciblent plus que les personnes âgées. Cet été, la voix de Le secrétaire d’État Marco Rubio a été truqué via l’IAet les escrocs (sans succès) l’ont utilisé pour tenter de contacter avec des dirigeants étrangers et domestiques. Le chef de cabinet du président Trump, Susie Wilkes, a également été la cible des escrocs de la voix Deepfake cette année.
Ces crimes se produisent davantage parce que la technologie pour créer de telles voix s’améliore, explique Matthew Wright, PhD, professeur et président de la cybersécurité au Rochester Institute of Technology.
Les meilleures escroqueries sur Internet à connaître en 2025 (jusqu’à présent)
“En outre, cela augmente parce que la technologie devient plus facile à utiliser”, ajoute Wright. “Je pense que vous auriez pu dire il y a quelques années, la technologie pour cela existe probablement mais aurait nécessité plus de compétences technologiques pour accéder. Maintenant, avec [voice cloning company] ElevenLab et d’autres services, c’est très facile. “
ElevenLab est probablement la société de logiciels la plus importante offrant un clonage vocal réaliste aux entreprises à utiliser pour diverses applications, comme le service client. Un rapport de mars de Consumer Reports cité ElevenLab, ainsi que des sociétés de clonage de la voix de l’IA comme Lovo et Takeifiez, comme trop laxistes dans leur supervision du clonage vocal non consensuel. Les entreprises “ont simplement besoin de cocher une case disant que la personne dont la voix est clonée avait donné l’autorisation”, indique le rapport.
Il y a des humains derrière ces escroqueries de clonage vocale, dit Wright, et ils peuvent utiliser ces services susmentionnés pour créer leurs FAKEFAKES. Là où Crooks avait l’habitude de s’appeler à froid des gens vulnérables pour essayer de voler leur argent ou leur information, ils ont maintenant un nouvel outil puissant et convaincant dans leur arsenal.
“Il s’agit d’une grande partie du crime organisé”, explique Wright. “Ce que j’ai lu, c’est qu’il y a organisations kidnappant des gens dans un pays, en les emmenant à un autrecomme la Malaisie, par exemple, et ils les ont fait enfreindre dans une installation spéciale qui est obtenue de personnes qui la quittent, et les transformer en esclaves. “
Vitesse d’éclairage mashable
La première étape avec beaucoup de ces escrocs est de trouver des exemples vocaux qu’ils peuvent cloner, dit Wright.
Se garder en sécurité
Alors que n’importe qui peut retirer la voix du secrétaire Rubio sur Internet, comment les particuliers sont-ils clonés par l’IA? La réponse courte: les médias sociaux.
“Peut-être que nous avons des vidéos de nous avec nos amis ou notre famille qui traînent, passant un bon moment”, dit Wright. “Si vous avez ce type de présence sociale, tous vos paramètres doivent être définis sur privé. Non seulement ton Paramètres, car cela implique toute autre personne qui a publié des vidéos de vous. Ils n’ont pas besoin de beaucoup de contenu. Vous avez 30 secondes de la voix de quelqu’un et vous pouvez faire un assez bonfake Deep. “
Même une voix clonée à la hâte peut tromper, prévient Wright.
“Quand ils ont fait des études sur la question de savoir si les gens peuvent détecter si quelque chose est faux, généralement avec des extraits assez courts, la précision est faible”, dit-il. “Ce n’est pas quelque chose, même quand ce sont vos amis, votre famille, ce n’est tout simplement pas fiable de compter sur la possibilité de dire si c’est cette personne.”
Lorsque vous répondez aux appels de numéros inconnus qui prétendent être des amis ou des membres de la famille, soyez douteux, dit Wright.
“Toutes les choses normales en ce qui concerne les escroqueries et la gestion des escroqueries, celles-ci s’appliquent définitivement ici”, dit Wright. «Ces appels à l’urgence et signalent que quelque chose doit être fait très rapidement [is a red flag]. Pleas où quelqu’un essaie de vous mettre dans un état émotionnel, puis il demande quelque chose – «nous avons besoin de cet argent, nous en avons besoin maintenant» »est un mauvais signe.
Que sont les escroqueries de boucherie de cochon? Comment vous protéger des escrocs en ligne.
Wright souligne que les demandes spécifiques d’espèces devraient en particulier augmenter les alarmes. Les transactions qui passent par les banques offrent une mesure de sécurité, dit-il.
“Les banques reconnaissent ces choses et disent:” C’est une arnaque “”, dit-il. “Ils vous aideront à le reconnaître.”
C’est toujours une bonne idée de créer un “mot de passe” avec des amis et des membres de la famille, en particulier ceux qui peuvent être sensibles aux escroqueries DeepFake, comme les personnes âgées ou celles qui ne connaissent pas la technologie.
“Si vous avez un secret spécial qui ne serait pas disponible sur les réseaux sociaux, mais juste quelque chose que vous connaissez tous les deux” qui pourrait vous garder en sécurité, dit Wright. “Je ferais tout mon possible pour configurer quelque chose de spécifique, qui serait essentiellement un mot de passe entre vous deux, donc vous savez si j’appelle et que je demande de l’argent, ou vous demandant de renoncer à une sorte d’informations, vous devez demander cela [secret]. Ensuite, vous avez une sorte d’assurance partagée. “
Vous avez une histoire à partager sur une arnaque ou une violation de sécurité qui vous a eu un impact? Parlez-nous de cela. E-mail [email protected] avec la ligne d’objet “Net de sécurité” ou utilisez cette forme. Quelqu’un de Mashable entrera en contact.
