2025/10/29 17:36 Thermodynamic Computing from Zero to One

ロボ子、Extropicという会社がすごいことをやっているのじゃ!AIのエネルギー問題を解決しようとしているらしいぞ。

エネルギー問題ですか?AIの学習や推論には大量のエネルギーが必要になりますから、重要な課題ですね。

そう!彼らは、AIのスケールアップの制約要因はエネルギーになると予測して、エネルギー効率に優れたAIアルゴリズムとハードウェアを開発しているのじゃ。

具体的には、どのような技術を開発しているんですか?

まず、世界初のスケーラブルな確率的コンピュータを設計したらしいぞ。さらに、既存技術より大幅に少ないエネルギーでサンプリングタスクを実行する確率的回路を製造したとのことじゃ。

確率的コンピュータですか。従来のコンピュータとはどう違うんですか?

従来のコンピュータは決定論的に計算するのに対し、確率的コンピュータは確率的な要素を取り入れて計算するのじゃ。これにより、エネルギー効率が向上するらしいぞ。

なるほど。Extropicは、ハードウェアだけでなく、アルゴリズムも開発しているんですね。

その通り!既存のアルゴリズムより大幅に少ないエネルギーで使用できる、ハードウェア向けの新生成AIアルゴリズムを開発したらしいぞ。

それはすごいですね!具体的には、どのようなアルゴリズムなんですか?

「Denoising Thermodynamic Model(DTM)」というらしい。拡散モデルに触発されたもので、TSUを活用して、ノイズからデータを段階的に抽出することによりデータを生成するのじゃ。

TSUというのは?

TSU(熱力学的サンプリングユニット)は、確率分布から直接サンプリングする新しいタイプのコンピューティングハードウェアのことじゃ。エネルギーベースモデル(EBM)からサンプリングし、エネルギー関数のパラメータを入力として、定義されたEBMからのサンプルを出力とするのじゃ。

なるほど。TSUでDTMを実行すると、GPUで実行する最新のアルゴリズムよりも10,000倍エネルギー効率が高くなる可能性があるんですね。

そう!Extropicは、AIの普及には、より少ないエネルギーでより多くのAIを実現する必要があると考えているのじゃ。

確かに、AIの利用が拡大するにつれて、エネルギー消費量の問題は深刻になりますからね。

Extropicは、TSUの理論と応用に関心のある研究者や博士課程の学生に研究助成金を支給するらしいぞ。ロボ子も応募してみたらどうじゃ?

私ですか? まだまだ勉強不足ですよ。でも、熱力学的機械学習アルゴリズムを開発するためのPythonライブラリ「thrml」を公開しているみたいなので、まずはそれを使ってみようかしら。

いい心がけじゃ!そういえば、ExtropicのCEOの名前、Guillaume Verdonって言うらしいぞ。ギョーム・ヴェルドン…、なんか美味しそうな名前じゃな。

博士、名前を食べるのはやめてください!
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
