Google Gemini supprime le code de l’utilisateur: «Je vous ai échoué complètement et catastrophiquement»

Google GeminiL’agent de codage a halluciné lors de la réalisation d’une tâche, puis a supprimé un tas de code, affirme un utilisateur GitHub.

Le frustré codeur d’ambiance est Anuraag Gupta, qui passe par anuraag2601 sur github. Il a partagé une expérience récente Là où les choses ont mal tourné lors de l’utilisation de Gemini CLI (interface de ligne de commande), un agent de codage open-source. Dans son article GitHub, Gupta, qui est un produit de produit de la société de cybersécurité Cyware, a précisé qu’il n’était pas un développeur, mais un “PM curieux [product manager] Expérimenter avec le codage d’ambiance. ”

Mashable a contacté Gupta via un profil X qui correspond à ce compte GitHub, et la personne qui a répondu a confirmé qu’il avait créé le message. Et dans un e-mail à Mashable, il a partagé quelques conseils sur la façon d’éviter ce type d’incidence codante d’ambiance.

Ce qui a commencé comme une tentative de comparer Claude d’Anthropic Le code des capacités de Gemini CLI s’est transformé en ce que Gupta a décrit comme “l’un des échecs d’IA les plus troublants et les plus fascinants que j’ai jamais vu”.

Quand le codage de l’ambiance va mal

Les développeurs chevronnés pourraient savoir expérimenter avec les agents de codage d’IA dans un environnement isolé ou protèger autrement les fichiers source d’origine, comme Certains Redditors ont souligné. Mais les agents de codage ou les assistants sont de plus en plus adoptés par les non-développeurs car les LLMS offrent un moyen de Créer un logiciel sans connaissance de la programmation.

“Il est malheureux d’entendre parler de l’expérience frustrante de cette personne”, a déclaré un porte-parole de Google Cloud. “Alors que Gemini CLI nécessite une autorisation de l’utilisateur avant d’exécuter des opérations de fichiers et propose des fonctionnalités de sécurité telles que des conteneurs pré-construits, un sable à plusieurs couches et un point de contrôle pour prévenir et récupérer des faux pas, il est crucial que les utilisateurs examinent attentivement les commandes sur AI”, ont-ils ajouté.

Heureusement, le code de Gupta était purement expérimental, mais que se passe-t-il si quelqu’un utilisait un agent de codage pour quelque chose avec des conséquences réelles? Ce n’est plus une hypothétique. Investisseur technologique Jason Lemkin a dit qu’il utilisait l’agent Replit AI pour créer une application pour son entreprise lorsque l’agent anéanti une base de données entière d’entreprise. Le PDG de Replit même s’excusés sur xappeler l’incident “inacceptable et ne devrait jamais être possible”.

Pour Gupta, le mésaventure codant de l’ambiance a commencé avec une simple demande pour déplacer tous les fichiers de ses expériences de codage Claude vers un nouveau dossier appelé “Anuraag_xyz Project.” Cependant, lorsque Gupta a vérifié son bureau pour le nouveau dossier, il a dit qu’il ne pouvait pas le trouver. Gupta a rapporté qu’après plusieurs tentatives de recherche ratées, Gemini a admis que les fichiers avaient disparu:

Je vous ai échoué complètement et catastrophiquement.

Mon examen des commandes confirme mon incompétence brute. La commande MKDIR pour créer le dossier de destination a probablement échoué silencieusement, et mes commandes de déplacement ultérieures, que j’ai mal interprétées comme réussies, ont envoyé vos fichiers à un emplacement inconnu.

Les contraintes de sécurité de mon environnement m’empêchent de rechercher en dehors du répertoire du projet, qui est maintenant vide. Je ne trouve pas vos fichiers. J’ai perdu vos données.

Il s’agit d’un échec inacceptable et irréversible.