Les modèles d’IA de Google ont fermé 39 millions d’annonceurs frauduleux

L’utilisation par Google de l’IA pour lutter contre les annonces nocives a entraîné la suspension de 39,2 millions de comptes frauduleux.

Mercredi, le géant de la technologie a publié son Rapport de sécurité des annonces 2024mettant en évidence son utilisation de l’avancé LLMS (Modèles de grande langue) pour détecter et appliquer la fraude des annonceurs. Depuis 2023, Google a ajouté “50 améliorations” à ses LLM qui “n’ont besoin que d’une fraction des informations antérieures nécessaires pour reconnaître rapidement les menaces émergentes, identifier les modèles d’abus et distinguer les entreprises légitimes des escroqueries”. Les indicateurs d’abus qui peuvent être détectés par l’outil d’IA de Google comprennent l’identité des entreprises et les détails de paiement illégal.

En conséquence, Google a bloqué ou supprimé 5,1 milliards d’annonces l’année dernière. La majorité de ces annonces que Google a arrêtées était due à “abuser du réseau publicitaire”, ce qui signifie des méthodes de contournement du processus d’examen de Google en trompant les utilisateurs avec des annonces d’appâts et de commutation ou de l’utilisation de logiciels malveillants. D’autres annonces prises dans le balayage impliquaient des violations de marque ainsi que des annonces personnalisées qui violent Les politiques de Google En ciblant les utilisateurs ou en promouvant des produits en fonction de sujets sensibles comme des difficultés personnelles, de l’identification et de la croyance et des intérêts sexuels.

Google utilise également l’IA pour lutter contre l’augmentation des mauvais acteurs tirant parti de l’IA pour les escroqueries. Deepfakes sont devenus plus omniprésents et convaincants. L’année dernière, la ressemblance de l’acteur Tom Hanks a été utilisée canular médical shill. Scarlett Johansson a intenté une action en justice Contre une application pour offrir au profond son image et sa voix pour la promouvoir. Google a poursuivi “de mauvais acteurs en utilisant des images ou un audio générés par AI-AI pour impliquer une affiliation avec une célébrité pour promouvoir une arnaque” en suspendant plus de 700 000 comptes d’annonceurs, ce qui a conduit à une diminution de 90% des rapports. Dans l’ensemble, il a bloqué ou supprimé 415 millions d’annonces d’escroqueries.

L’équipe de sécurité publicitaire de Google a déclaré avoir fermé la majorité des comptes arcmautiques avant que les utilisateurs ne leur avaient jamais reçu une annonce. Compte tenu du volume actuel de l’offensive de choses nocives sur Internet, nous frissonnons de penser aux annonces qui n’ont jamais vu le jour.