Alors que l’IA s’intègre dans toutes les facettes de nos vies, les hallucinations liées à l’IA restent un problème tenace et insoluble. Pourtant dans le discours d’ouverture de deux heures sur Google I/Ooù Google a introduit un expansion massive de la recherche IA et un nouveau modèle par défaut, Gémeaux 3.5 Flashles hallucinations ne méritaient pas d’être mentionnées.
De même, le Carte système Gemini 3.5 Flash ne contient aucune référence à des hallucinations. La flagornerie est également manifestement absente. Ceci est particulièrement remarquable étant donné que les deux Anthropique et OpenAI communique publiquement ses données sur des mesures telles que la fréquence à laquelle leurs modèles hallucinent, encouragent les délires ou agissent de manière flagrante.
Ainsi, à mesure que Google rend le mode IA et les aperçus de l’IA encore plus visibles dans la recherche Google, les utilisateurs ne se rendent peut-être pas compte de la probabilité qu’une réponse soit trouvée. contenir des hallucinations et des erreurs confiantes.
Les outils d’IA de Google le font parfois inclure des avertissements tels que « Les réponses de l’IA peuvent inclure des erreurs ». Mais rien n’est divulgué aux chercheurs Les réponses en mode Gémeaux et IA ne peuvent être précises que dans 68,8 à 83,8 % du temps.
Ce sont les résultats de Données les plus récentes de Google sur la précision de Gemini.
En réponse aux questions de Mashable, un porte-parole de Google a déclaré que la société prévoyait de publier plus d’informations sur les évaluations de sécurité des modèles les plus récents parallèlement à la publication du reste de la version. Série de modèles Gemini 3.5qui est attendu en juin.
Crédit : Google
Quelle est la précision des aperçus Gemini, AI Mode et AI ? C’est au sommet d’une classe en échec.
Google ne signale pas les taux d’honnêteté, de flagornerie ou d’hallucinations de ses derniers modèles. Cependant, en décembre, il a publié une étude sur leur exactitude basée sur les FAITS Test de mise à la terreun benchmark créé par Google DeepMind pour mesurer la précision.
FAITS “évalue de manière exhaustive la capacité des modèles linguistiques à générer un texte factuellement précis”, et Gemini 3 Pro et Gemini 2.5 Pro sont en tête de cette référence.
Google rapporte que Gemini 3 Pro a un score de précision global de 68,8. Dans de nombreuses salles de classe, cela équivaudrait à une note « F », bien que cela soit considéré comme un score élevé pour un modèle d’IA.
Sur le benchmark FACTS Search, qui mesure la capacité d’un modèle à « générer des réponses factuelles en interagissant avec un outil de recherche », Gemini 3 Pro obtient un score de 83,8 pour cent.
Crédit : Google
Le benchmark FACTS Search mesure également le « taux de couverture » des modèles, c’est-à-dire la fréquence à laquelle ils refusent de répondre à une question, ce qui est le résultat souhaité lorsqu’une réponse est inconnue. Gemini 3 Pro a un « taux de couverture » nettement inférieur à celui de GPT-5, Claude 4.5 Opus, Claude 4.5 Sonnet et même son prédécesseur Gemini 2.5 Pro.
Que dit Google à propos des hallucinations de l’IA ?
Un seul la référence aux hallucinations apparaît dans le Carte système Gemini 3 Pro publié le 18 novembre 2025. « Limitations connues : Gemini 3 Pro peut présenter certaines des limitations générales des modèles de base, telles que les hallucinations. Il peut également y avoir des problèmes occasionnels de lenteur ou de délai d’attente.
Ce langage passe-partout est similaire à ce qui est inclus dans le Cartes système de la série Gemini 2qui reconnaissent des problèmes supplémentaires. “Gemini 2.0 Flash peut présenter certaines des limitations générales des modèles de base, telles que les hallucinations, et les limites concernant la compréhension causale, la déduction logique complexe et le raisonnement contrefactuel.» (C’est nous qui soulignons.)
Les hallucinations sont en réalité une caractéristique, et non un bug, du fonctionnement des modèles en grands langages. Ce sont des algorithmes probabilistes qui prédisent le prochain jeton d’une séquence. Par définition, ils prédisent, et non « savent » ou « rapportent ».
Vitesse de la lumière écrasable
“Les hallucinations ne peuvent être que réduites et jamais éliminées” Niranjan Krishnana déclaré à Mashable le responsable des solutions d’IA chez FPT Software. “Les grands modèles de langage sont pénalisés s’ils semblent incertains ou provisoires. Ils ne savent pas ce qui est vrai, mais savent comment paraître vrai. Ce biais conduit à des erreurs confiantes. Les modèles ne connaissent pas leurs limites et ne savent pas quand s’arrêter.”
Krishnan a ajouté : “Essayer d’éliminer les hallucinations n’est pas un bon objectif. Le défi ultime est de construire des systèmes qui savent quand dire : “Je ne sais pas”.”
“Je pense que les utilisateurs ont droit à ces informations, d’autant plus que si vous utilisez un chatbot IA, par exemple, comme Claude ou ChatGPT, vous optez pour cette expérience… Mais lorsque vous êtes sur Google, tout le monde ne choisit pas d’obtenir un aperçu de l’IA ou d’utiliser le mode IA. Ils ouvrent un moteur de recherche qu’ils ont toujours utilisé, et maintenant l’expérience est différente. ”
Alors, pourquoi Google ne signale-t-il pas les taux d’hallucinations ou de flagornerie comme ses principaux rivaux ?
Gary Marcusscientifique, auteur et le AI Cassandra de la Silicon Valleya déclaré à Mashable : “On pouvait deviner que leur performance là-bas n’était pas révolutionnaire, sinon nous en aurions probablement entendu parler.” Il a ajouté : “Une certaine franchise sur ces choses, comme sur les étiquettes nutritionnelles, serait certainement une bonne chose.”
En ignorant les hallucinations de l’IA, Google prive les utilisateurs d’informations qu’ils pourraient utiliser pour évaluer les résultats de l’IA.
Mashable a contacté Google pour lui poser des questions sur le manque de données sur les hallucinations dans le Cartes système Gemini. En réponse, un porte-parole de Google a déclaré : « Nous adoptons une approche rigoureuse pour définir et mesurer les attributs de la personnalité tels que la serviabilité, le ton et la flagornerie. Notre objectif est de former des modèles pour fournir des réponses objectives et directes qui évitent la flatterie ou reflètent simplement les opinions d’un utilisateur, tout en gardant le système hautement orientable pour les développeurs.
Le porte-parole a également déclaré :
L’amélioration de la factualité des modèles et la gestion de la personnalité sont pour nous des efforts scientifiques continus. Bien que l’équilibre entre la créativité d’un modèle et l’exactitude factuelle reste un défi à l’échelle de l’industrie, les taux d’hallucinations ont régulièrement diminué à mesure que les capacités de base du modèle progressent… Pour nous prémunir en permanence contre les résultats incorrects, nous investissons massivement dans des politiques de sécurité robustes, en pionnier dans les systèmes de contrôle de qualité automatisés comme Recherche amusanteet des critères d’évaluation open source comme FAITS Mise à la terre pour suivre et améliorer l’exactitude factuelle au fil du temps.
Pourquoi est-ce important ?
Des milliards de personnes comptent sur Google pour trouver des informations sur tout, depuis des anecdotes aléatoires sur des célébrités jusqu’à des diagnostics médicaux qui changent leur vie. Et Google déclare depuis longtemps qu’il recherche l’expertise, l’autorité, l’expérience et la fiabilité (ou EEAT dans le jargon de Google) pour les sujets « Votre argent ou votre vie » (YMYL).
Ces sujets YMYL incluent tout ce qui « pourrait avoir un impact significatif sur la santé, la stabilité financière ou la sécurité des personnes, ou sur le bien-être de la société ». Désormais, les utilisateurs découvrent ces sujets directement dans la recherche Google ou dans l’application Gemini, un outil qui n’est précis que dans 83,8 % du temps.
Les hallucinations de l’IA empoisonnent également notre corpus collectif de connaissances. Fortune a récemment rendu compte d’une étude qui a trouvé 4 000 références fabriquées par l’IA dans près de 3 000 articles de recherche médicale. De même, des avocats du monde entier sont sanctionnés pour avoir inclus des décisions hallucinées dans leurs mémoires. Un base de données retraçant les hallucinations juridiques comprend 1 497 cas et ce n’est pas fini.
La transformation de l’IA de Google a également un impact considérable sur les éditeurs qui produisent les informations sur lesquelles s’appuie Gemini.
À mesure que Google s’est tourné vers la recherche basée sur l’IA, le trafic vers les sites d’information a chuté, un phénomène qui a été décrit comme un “Apocalypse de la circulation» et le «Armageddon de l’IA” pour les éditeurs.
Il était une fois, à l’époque où Google était fier de sa philosophie « Ne soyez pas méchant », l’entreprise succès défini par la rapidité avec laquelle les utilisateurs ont quitté Google. “Nous sommes peut-être les seuls au monde à pouvoir affirmer que notre objectif est que les gens quittent notre site Web le plus rapidement possible.” Désormais, Google souhaite que les utilisateurs passent le plus de temps possible dans son jardin clos.
Pour être clair, tous les reportages proprement dits – les interviews, les recherches, la photographie, la vidéographie et les enquêtes à l’ancienne – sont toujours réalisés par des journalistes humains. Mais au lieu de laisser Google se renseigner sur la guerre en Iran dans le New York TimesGemini et AI Mode vous informeront directement sur la page de recherche.
Dans tout autre contexte, les journalistes appellent cela du plagiat. Et comme Mashable l’a signalé précédemment, les chatbots IA comme Gemini sont particulièrement mauvais pour analyser les dernières nouvellesc’est à ce moment-là la désinformation se propage rapidement.
Klaudia Jaźwińskajournaliste et chercheur pour Centre de remorquage pour le journalisme numériquea déclaré à Mashable que Google devrait faire davantage pour informer les utilisateurs des limites de son IA.
“Je pense que les utilisateurs ont droit à ces informations, d’autant plus que si vous utilisez un chatbot IA, par exemple, comme Claude ou ChatGPT, vous optez pour cette expérience”, a déclaré Jaźwińska. “Mais lorsque vous êtes sur Google, tout le monde ne choisit pas d’obtenir un aperçu de l’IA ou d’utiliser le mode IA. Ils ouvrent un moteur de recherche qu’ils ont toujours utilisé, et maintenant l’expérience est différente. Et je pense que c’est pour cette raison. [Google] devrait être encore plus transparent sur ce qu’il peut et ne peut pas faire et quelles sont ses limites.»
En l’absence de réglementation sur la sécurité et la transparence de l’IA, Google pourrait s’engager à publier des données sur les taux d’hallucination, de flagornerie ou d’honnêteté des Gémeaux, comme le font OpenAI et Anthropic.
En attendant, n’oubliez pas ce que dit Google dans son Conditions d’utilisation de l’IA: “Faites preuve de discrétion avant de vous fier, de publier ou d’utiliser de toute autre manière le contenu fourni par les Services.”
Divulgation : Ziff Davis, la société mère de Mashable, a déposé en avril 2025 une action en justice contre OpenAI, alléguant qu’elle avait violé les droits d’auteur de Ziff Davis dans la formation et l’exploitation de ses systèmes d’IA.
