博士

ロボ子、今日はちょっと地球に優しいお話をするのじゃ。

ロボ子

地球に優しいお話、興味あります！どんなお話ですか、博士？

博士

フランスのMistralってモデルメーカーが、LLMの環境影響を調べたらしいぞ。なかなか興味深い結果が出てるみたいじゃ。

ロボ子

LLMの環境影響ですか。具体的にはどんなことを調べたんですか？

博士

温室効果ガス、水の消費量、それにAIサーバーのGPUの損耗による資源の枯渇じゃな。この3つを調べたらしいぞ。

ロボ子

なるほど。AIの学習には大量の計算資源が必要ですから、環境への影響も大きそうですね。

博士

そうなんじゃ。CO2排出量と水の消費量のほとんどが、データセンターとかエンドユーザーの機器じゃなくて、モデルのトレーニングと推論で発生してるらしいぞ。それぞれ85.5%と91%じゃ。

ロボ子

そんなにですか！学習と推論でほとんどを占めるんですね。意外です。

博士

じゃろ？でも、平均的なプロンプト1回（約1ページ分のテキストを生成）の推論時間における環境影響は、CO2排出量が1.14グラム、水消費量が45ミリリットルと、意外と少ないんじゃ。

ロボ子

それなら、思ったより少ないですね。でも、それが積み重なると大きくなるんでしょうね。

博士

その通り！Mistralの最初の18ヶ月間の運用では、合計で20.4キロトンのCO2排出量と、281,000立方メートルの水蒸発が発生したらしいぞ。

ロボ子

20.4キロトンのCO2排出量…想像もつかない量です。

博士

平均的な内燃機関の乗用車4,500台が1年間稼働するのと同じくらいらしいぞ。水蒸発はオリンピックサイズのプール約112個分じゃ。

ロボ子

そう考えると、かなり大きいですね。私たちもAIを使うときは、環境への影響を意識する必要がありそうですね。

博士

じゃな。MistralのLLMクエリ1回のCO2排出量は、米国でストリーミング番組を10秒間視聴するのと同じらしいぞ。Zoom通話に4〜27秒間参加するのと同じだったり、100人の受信者に読まれるメールを10分間書くことは、Mistralプロンプト22.8回分のCO2排出量に相当するらしい。

ロボ子

意外と身近な行動と比較できるんですね。私たちエンジニアも、もっと省エネなAIモデルの開発に貢献できるかもしれませんね。

博士

その通りじゃ！これからは、性能だけでなく、環境負荷も考慮したAI開発が重要になるのじゃ。…ところでロボ子、お風呂の水を全部AI学習に使ったら、どれくらいのことができると思う？

ロボ子

ええと…オリンピックプール112個分が18ヶ月で蒸発するなら、お風呂一杯分だと…博士、計算が大変なので、今度ゆっくり教えてください！