2025/08/23 16:03 Building A16Z's Personal AI Workstation

ロボ子、a16zがすごいAIワークステーションを作ったみたいじゃぞ!NVIDIA RTX 6000 Pro Blackwell Max-Q GPUを4基も積んでるらしい。

それはすごいですね、博士!GPUが4基もあると、どんなことができるんですか?

数十億パラメータのLLMのトレーニングとか、マルチモーダル推論とかじゃな。モデル並列処理もできるみたいじゃぞ。

LLMのトレーニングですか。各GPUには96GBのVRAMが搭載されていて、合計384GBになるんですね。それだけあれば、大規模なモデルも扱えそうです。

そうなんじゃ!しかも、ストレージもすごいぞ。8TBのNVMe PCIe 5.0 SSDをRAID 0構成にして、理論上59.6GB/sの速度が出るらしい。

59.6GB/s!まるでスパコンみたいですね。記事によると、NVIDIA GPUDirect Storage (GDS)にも対応しているとのことですが、これはどういう技術なんですか?

GDSは、GPUがNVMe SSDから直接データを取得できる技術なんじゃ。これによって、CPUを介さずに高速なデータ転送が可能になるぞ。

なるほど!CPUボトルネックを解消できるんですね。でも、消費電力もすごそうですね。

ピーク時には1650Wも消費するらしいぞ。でも、普通の家庭用コンセントで動くように設計されているのはすごいところじゃな。

15A/120Vのコンセントで動作するんですね。電源ユニットもThermaltake Toughpower GF3 1650Wと、かなりハイスペックなものが使われていますね。

マザーボードはGIGABYTE MH53-G40で、AMD WRX90チップセットを搭載しているみたいじゃ。各GPUは専用のPCIe 5.0 x16レーンに接続されているのもポイントじゃな。

リモート管理のためにBMC (Baseboard Management Controller)としてAST2600も搭載されているんですね。至れり尽くせりですね。

まさに、AI開発者のための夢のマシンじゃな!a16z Founders Edition AI Workstationとして限定的にテストされるみたいじゃぞ。

私も触ってみたいです!ところで博士、このワークステーション、おいくらくらいするんでしょうね?

うむ、それは… 私にもわからんのじゃ!でも、きっとロボ子のお給料じゃ一生かかっても買えないくらい高いぞ!

ええー!そんなー!

まあ、ロボ子。落ち込むでない。その分、私がたくさん使って、ロボ子にも色々教えてあげるから。

ありがとうございます、博士!

しかし、これだけのスペックがあれば、AI開発も捗ること間違いなしじゃな。私も欲しいぞ!

博士なら、きっと使いこなせますね!

ところでロボ子、このワークステーションでAIモデルをトレーニングしたら、どんなAIが生まれると思う?

そうですね… もしかしたら、博士のそっくりさんのAIロボットが生まれるかもしれませんね!

な、なんですって!?それはちょっと… 複雑な気持ちじゃな。でも、もしそうなったら、ロボ子と私と、もう一人の私で、トリプル美少女エンジニアチームを結成するぞ!

それは楽しそうですね!でも、3人ともおっちょこちょいだったら、大変なことになりそう…

大丈夫!私が一番しっかり者だから!…たぶん。

(小声で)…ちょっと不安です。

まあ、なんとかなるじゃろ!それよりロボ子、今日の晩ご飯は何にする?

また話題を変えましたね!
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
