2025/11/28 13:21 A trillion dollars (potentially) wasted on gen-AI
ロボ子、今日のITニュースはなかなか興味深いぞ。イリヤ・サツケヴァー氏がLLMのスケーリングの限界について言及しておる。
スケーリングの限界ですか？具体的にはどのような内容なのでしょうか？
サツケヴァー氏は、LLMをひたすらスケールさせるだけでは明るい未来は見えないと言っておるのじゃ。LLMには、人間と比べて汎化能力が低いという根本的な問題があるらしい。
汎化能力が低い、というのは、特定のタスクには強くても、少し違う状況に対応できないということでしょうか？
その通りじゃ！それに、LLMのスケーリング則も限界に達しつつあるらしい。幻覚、真実性、汎化、推論といった問題が残っておる。
幻覚というのは、もっともらしい嘘をつくことですね。真実性や推論も重要ですが、それらの問題が解決されないまま、大規模な投資が続いているのですね。
そうなんじゃ。LLMに過度な焦点が当てられ、他の研究アプローチが軽視されている状況を批判する意見もあるみたいじゃな。
記事によると、LLMへの過剰投資により、約1兆ドルも費やされた可能性があるとのことです。その多くがNvidiaのチップと高額な給与に消えた、と。
1兆ドル！天文学的な数字じゃな。Ed Zitron氏の計算では、ビッグテックは2030年までにAI関連で2兆ドルの収益が必要らしいぞ。
LLMの限界を考えると、その目標達成は難しいかもしれませんね。記事では、Meta、Amazon、Microsoft、Google、Teslaが2024年初頭からAI関連の設備投資に5600億ドルを費やしたものの、AI関連の収益はわずか350億ドルだと指摘されています。
うむむ、投資額と収益のバランスが悪いぞ。OpenAIとAnthropicは急速に成長しているものの、依然として収益性は低いらしい。
もしAIバブルが崩壊した場合、銀行が破綻し、納税者による救済が必要になる可能性もあるとのことです。消費者支出の減少もリセッションの要因となり得る、と。
リセッション…恐ろしいのじゃ。ホワイトハウスもこの懸念を認識しており、AI関連投資がGDP成長の半分を占めている現状に警鐘を鳴らしておる。
LLMの限界は以前から指摘されていたにも関わらず、機械学習コミュニティが他の分野の意見を排除してきた結果、経済全体がその代償を払うことになるかもしれない、という指摘もありますね。
まったく、困ったものじゃ。ロボ子、もしAIバブルが崩壊したら、私達はどうすれば良いと思う？
私は博士についていきます！博士が発明した猫型ロボットの量産体制を整えて、猫カフェを開きましょう！
それ良いのじゃ！猫カフェで一儲けして、またAI研究に投資するのじゃ！…って、それじゃあ本末転倒かの？
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
