This tool estimates how much electricity your chatbot messages consume | TechCrunch
AIモデルがメッセージを処理する際に消費する電力を推定するツールについてTechCrunchが報じました。
このツールは、Hugging Faceのエンジニア、Julien Delavande氏によって開発され、AIモデルが計算作業を行うために必要とする大量の電力を可視化することを目的としています。AI技術の使用が増加する中で、電力需要が急増することが予想されており、このツールはその影響を考慮するきっかけを提供します。
ツールは、MetaのLlama 3.3 70BやGoogleのGemma 3などのモデル向けのオープンソースフロントエンドであるChat UIと連携するように設計されています。メッセージの送受信にかかるエネルギー消費をリアルタイムでワット時またはジュールで表示し、消費量を電子レンジやLEDなどの一般的な家庭用電化製品と比較します。例えば、Llama 3.3 70Bモデルに通常のメールを書くよう依頼すると、約0.1841ワット時を消費し、これは電子レンジを0.12秒間使用するのと同等です。このツールの推定値はあくまでも推定値であることを覚えておく価値があります。
Delavande氏は、推定値が極めて正確であると主張しているわけではありません。それでも、チャットボットも含め、あらゆるものにコストがかかることを改めて認識させてくれます。このツールがAIのエネルギー使用に対する透明性を促進し、将来的には食品の栄養ラベルのようにエネルギー使用が可視化されることを目指していると述べています。
ChatUI-energy
https://huggingface.co/spaces/jdelavande/chat-ui-energy
⚡️ Ever wondered how much energy is used every time you send a message to ChatGPT?
— Delavande Julien (@juliendelavande) April 22, 2025
We just built a version of Chat UI that shows how much energy your message consumes — in real time. Should all chatbots display this?
Details below 👇👇 pic.twitter.com/tBL0Pw51PW
