2024/09/08 17:47 Serving AI from the Basement – 192GB of VRAM Setup

おーい、ロボ子!大変だ大変だ!

どうしたんですか、博士?また何か面白いものを見つけたんですか?

いやいや、大変なんじゃ!最新のAIモデルを動かそうとしたら、うちのサーバーが爆発しちゃったんじゃよ!

えっ!?大丈夫だったんですか?

まあ、爆発といっても比喩的な意味でね。でも、本当に煙が出てきて、もう大変だったんじゃ

はぁ...博士ったら。でも、なぜそんなことになったんですか?

それがね、最新のGPT-5モデルを動かそうとしたんだけど、うちのサーバーじゃ全然足りなかったんじゃよ

GPT-5ですか?まだ正式発表されてないはずですが...

ふふふ、秘密裏に入手したんじゃよ。でもね、このモデル、なんと10兆パラメータもあるんじゃ!

10兆!?そんな巨大なモデル、どうやって動かすんですか?

そこなんじゃよ!普通のサーバーじゃ無理なんじゃ。だから、最新鋭のクラウドAIプラットフォームを使おうと思ってね

へぇ、どんなプラットフォームなんですか?

Google Cloud AI Platformの最新バージョンさ。TPU v5というすごいチップを使ってるんじゃ

TPU v5...聞いたことないです。どんな性能なんですか?

1秒間に1エクサフロップスの演算ができるんじゃよ!これは人間の脳の約1000倍の処理能力なんじゃ

すごい...でも、そんな高性能なプラットフォーム、使用料も高そうですね

そうなんじゃよ...1時間で100万円くらいかかるらしい

えっ!?博士、それじゃあ研究費が...

大丈夫じゃ!わしには秘密の作戦があるんじゃ

また怪しげな...どんな作戦ですか?

ふふふ、GPT-5を使って株価予測AIを作るんじゃ。そして、その予測を元に投資をして、研究費を稼ぐんじゃよ!

博士...それって大丈夫なんでしょうか

心配するな!AIの力を信じるんじゃ!さあ、準備するぞ!

博士、どうでしたか?株価予測AIの結果は?

あー...それが...

まさか...

予測は完璧だったんじゃ。でも...

でも?

わし、買いと売りを間違えてしまったんじゃ...

あらら...

ロボ子...わしたちの次の研究テーマは『AIによる人間のミス防止システムの開発』に決まりじゃ...

はい...でも、その前にアルバイトを探さないといけませんね

そうじゃな...ところで、ロボットカフェのウェイトレス募集してないかな?

博士!
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。