ChatUI 🤗: Hugging Face calcule en temps réel la consommation avec votre IA

Combien d'énergie consomment vos conversations avec un agent conversationnel ? 


Julien Delavande de Hugging Face vous propose de tester la première interface de chat IA avec des estimations d'énergie en temps réel.

Cet outil aide les utilisateurs à comparer des modèles, des tâches et des stratégies (comme le raisonnement), ce qui permet de prendre des décisions éclairées. 
Même de petites économies d'énergie peuvent s'étendre à des millions de requêtes : le choix du modèle ou la longueur de sortie peuvent avoir un impact environnemental majeur. 

Pour rendre ces coûts plus pertinents, l'outil les compare aux activités quotidiennes (comme la recharge du téléphone ou la conduite) en utilisant des équivalents basés sur l'EPA. 
Avec des projets tels que l'AI Energy Score et des recherches plus larges sur l'empreinte énergétique de l'IA, Hugging Face veut faire pousser pour plus transparence dans la communauté open source. L'objectif ? Qu'un jour, la consommation d'énergie pourrait être aussi visible et lisible qu'un Nutriscore 

Je teste ! 

.. et en même temps Sasha Luccioni nous rappelle que  ces estimations ne sont pas une science exacte... mais que le sujet n'est pas tant l'exactitude de ce calcul mais le volume des requêtes 

.