Le nouveau rapport du MIT révèle les coûts énergétiques des outils d’IA comme le chatppt

Vous avez probablement entendu cette statistique que chaque recherche sur le chatppt utilise l’équivalent d’une bouteille d’eau. Et bien que cela soit techniquement vrai, il manque une partie de la nuance.

Le La revue de la technologie du MIT a abandonné un rapport massif qui révèle comment le intelligence artificielle L’industrie utilise l’énergie – et exactement combien d’énergie coûte pour utiliser un service comme Chatte.

Le rapport a déterminé que le coût énergétique des modèles à grande langue comme Chatgpt coûte de 114 joules par réponse à 6 706 joules par réponse – c’est la différence entre la gestion d’un micro-ondes pour un dixième de seconde pour exécuter un micro-ondes pendant huit secondes. Selon le rapport, les modèles d’énergie inférieure utilisent moins d’énergie car ils utilisent moins de paramètres, ce qui signifie également que les réponses ont tendance à être moins précises.

Il est donc logique que la vidéo produite en AI prend beaucoup plus d’énergie. Selon l’enquête du MIT Technology Report, pour créer une vidéo de cinq secondes, un nouveau modèle d’IA utilise “environ 3,4 millions de joules, soit plus de 700 fois l’énergie requise pour générer une image de haute qualité”. C’est l’équivalent de l’exécution d’un micro-ondes pendant plus d’une heure.

Les chercheurs ont compté la quantité d’énergie que cela coûterait si quelqu’un posait, hypothétiquement, posant des questions sur le chatbot de l’IA 15, posant 10 images et trois vidéos de cinq secondes. La réponse? Environ 2,9 kilowattheures d’électricité, ce qui équivaut à faire fonctionner un micro-ondes pendant plus de 3,5 heures.

L’enquête a également examiné l’augmentation des coûts énergétiques des centres de données qui alimentent l’industrie de l’IA.

Le rapport a révélé qu’avant l’avènement de l’IA, la consommation d’électricité des centres de données était largement stable grâce à une efficacité accrue. Cependant, en raison de la technologie d’IA à forte intensité d’énergie, l’énergie consommée par les centres de données aux États-Unis a doublé depuis 2017. Et selon données du gouvernementla moitié de l’électricité utilisée par les centres de données ira à alimenter les outils d’IA d’ici 2028.

Ce rapport arrive à un moment où les gens utilisent une IA générative pour absolument tout. Google a annoncé lors de son événement annuel d’E / S qu’il était Se pencher dans l’IA avec une ferveur. Recherche Google, Gmail, docs et se rencontrer voient tous des intégrations d’IA. Les gens utilisent l’IA pour Diriger des entretiens d’embauchecréer Deepfakes des modèles uniqueet tricher à l’université. Et tout cela, selon ce nouveau rapport en profondeur, a un coût assez élevé.

Divulgation: Ziff Davis, la société mère de Mashable, en avril, a déposé une plainte contre Openai, alléguant qu’elle a enfreint Ziff Davis Copyrights dans la formation et l’exploitation de ses systèmes d’IA.