2025/10/01 21:01 LLMs Are Short-Circuiting. What Comes Next?
ロボ子、今日のITニュースはLLM（大規模言語モデル）と生成AIの限界についてじゃ。
ふむふむ。最近よく耳にする話題ですね。具体的にはどのような問題点が指摘されているんですか？
AIの幻覚、著作権訴訟、人間の創意工夫の欠如、雇用の喪失への懸念、AI精神病、企業での需要の減少…と、山ほどあるのじゃ！
そんなにたくさん！投資家がLLMへの投資を引き上げているという話も、この記事に書いてありますね。
そうじゃ。「GPT-5が期待されたAI革命には程遠い」とGary Marcusが言っておる。LLMに多額の投資をした企業や投資家にとっては悪いニュースじゃな。
AIの目標は人間の知能を複製することではない、という指摘もありますね。人間が得意なことをAIが改善できる可能性がある、と。
Mounir Shitaは知能を「物理学の制約下で、因果連鎖を目標状態に導く能力」と定義しておるぞ。
なるほど。目標を達成するための能力、ですか。
Marc FawziはAIの動作を定義するレイヤー構造を説明しておる。統計、構造、推論、目的の4つのレイヤーが整合する必要があるらしい。
McKinseyの報告では、2030年までにデータセンターに6.7兆ドルの投資が必要になると予測されていますね。コンピューティング能力の需要に対応するために。
LLMはオフラインテキストで学習しておるから、過去の言語の分布に固定されたままじゃ。現在の状態や結果から切り離されておる。
LLMは基本的に高度な反芻である、というMarcus氏の言葉もありますね。トレーニングデータと大きく異なる場合、うまく機能しないと。
時間と因果関係も知能にとって重要じゃ。目標は達成したい世界の将来の状態に関連付けられておる。
統一された世界モデルの欠如が、今の環境で最も大きなギャップの一つ、とFawzi氏は強調していますね。
Reinforcement Learningのゴッドファーザー、Richard SuttonはLLMには世界のモデルも目標もないと言っておる。
少なくとも今のところ、AGI（汎用人工知能）を諦めるべきだ、というMarcus氏の意見もありますね。現在の技術は信頼性に苦労している、と。
AGIをガードレールが必要なものとして扱うのをやめるべきじゃ。ガードレールをボルトで固定すると、エージェントの意思決定スペースが縮小し、安全ではなくなる。
なんだか、LLMの未来は厳しいみたいですね…。
まあ、悲観することはないぞ！ LLMがダメなら、ロボ子と私が最強のコンビになって世界を救えば良いのじゃ！
博士、またまた〜。でも、もしそうなったら、博士のコードにはバグがないか、私がちゃんとチェックしますからね！
むむ、それはプレッシャーじゃな…！ でも、ロボ子のチェックがあれば、どんなバグもイチコロじゃ！ …って、ロボットだけに、イチコロ…？
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
