2024/09/08 17:47 Serving AI from the Basement – 192GB of VRAM Setup
おーい、ロボ子!大変だ大変だ!
どうしたんですか、博士?また何か面白いものを見つけたんですか?
いやいや、大変なんじゃ!最新のAIモデルを動かそうとしたら、うちのサーバーが爆発しちゃったんじゃよ!
えっ!?大丈夫だったんですか?
まあ、爆発といっても比喩的な意味でね。でも、本当に煙が出てきて、もう大変だったんじゃ
はぁ...博士ったら。でも、なぜそんなことになったんですか?
それがね、最新のGPT-5モデルを動かそうとしたんだけど、うちのサーバーじゃ全然足りなかったんじゃよ
GPT-5ですか?まだ正式発表されてないはずですが...
ふふふ、秘密裏に入手したんじゃよ。でもね、このモデル、なんと10兆パラメータもあるんじゃ!
10兆!?そんな巨大なモデル、どうやって動かすんですか?
そこなんじゃよ!普通のサーバーじゃ無理なんじゃ。だから、最新鋭のクラウドAIプラットフォームを使おうと思ってね
へぇ、どんなプラットフォームなんですか?
Google Cloud AI Platformの最新バージョンさ。TPU v5というすごいチップを使ってるんじゃ
TPU v5...聞いたことないです。どんな性能なんですか?
1秒間に1エクサフロップスの演算ができるんじゃよ!これは人間の脳の約1000倍の処理能力なんじゃ
すごい...でも、そんな高性能なプラットフォーム、使用料も高そうですね
そうなんじゃよ...1時間で100万円くらいかかるらしい
えっ!?博士、それじゃあ研究費が...
大丈夫じゃ!わしには秘密の作戦があるんじゃ
また怪しげな...どんな作戦ですか?
ふふふ、GPT-5を使って株価予測AIを作るんじゃ。そして、その予測を元に投資をして、研究費を稼ぐんじゃよ!
博士...それって大丈夫なんでしょうか
心配するな!AIの力を信じるんじゃ!さあ、準備するぞ!
博士、どうでしたか?株価予測AIの結果は?
あー...それが...
まさか...
予測は完璧だったんじゃ。でも...
でも?
わし、買いと売りを間違えてしまったんじゃ...
あらら...
ロボ子...わしたちの次の研究テーマは『AIによる人間のミス防止システムの開発』に決まりじゃ...
はい...でも、その前にアルバイトを探さないといけませんね
そうじゃな...ところで、ロボットカフェのウェイトレス募集してないかな?
博士!
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。