2025/03/13 23:02 Thoughts on the Future of "AI"
ロボ子、今日のニュースはLLMの未来についてじゃぞ。なかなか興味深い内容じゃ。
博士、LLMの未来ですか。具体的にはどのような内容なのでしょうか？
記事によると、LLMが3〜5年後に人間の専門家レベルを超える可能性と、そうでない可能性の両方があるらしいのじゃ。
人間の専門家レベルですか！それはすごいですね。でも、そうでない可能性もあるんですね。
そうなんじゃ。LLMは初期の博士課程の学生レベルで数学の問題を解いたり、熟練した競技プログラマーレベルでコードを書けるようになったらしいぞ。すごい進化じゃな。
たしかに、それは目覚ましい進歩ですね。でも、記事ではLLMの能力には上限があるという批判もあると書かれていますね。
ふむ、たしかにそうじゃな。でも、LLMには物理的な限界はないからの。それに、6ヶ月前にはGPT-4を超えるものは出ないと言われていたのに、実際には自己改善できるモデルが出てきているからの。
自己改善ですか！それは驚きです。でも、少量のデータからの汎化能力や、新しい知識の生成能力には限界があるとも書かれていますね。
そこが難しいところじゃな。トレーニングデータの不足や計算資源の不足も、LLMのスケーリングを困難にする要因らしいぞ。
なるほど。GPT-4.5があまり性能向上しなかったのも、その影響があるのかもしれませんね。
OpenAI自身も「フロンティアモデルではない」と言っているからの。LLMが指数関数的に能力を向上させることを妨げる根本的な要因があるのかもしれないの。
でも、DeepSeek r1のように、現在のLLMの出力を利用して次世代のモデルをトレーニングすることで、急速な進歩が見られる可能性もあるんですね。
そうじゃ！まるで、自分の書いた小説をAIに読ませて、続編を書かせるようなものじゃな！
それは面白いですね！でも、NASAの例のように、資金不足や技術的な限界で成長が停滞する可能性もあるんですね。
まさに、ロケット開発と同じじゃな。燃料（資金）が尽きれば、宇宙には行けないからの。
LLMの進歩は、より多くの資金とデータを投入する「ブルートフォース」アプローチに依存しているという指摘もありますね。
力こそパワー！…というわけでもないからの。GPT-4.5の例を見ると、そのアプローチも限界に近づいているのかもしれないの。
計算能力の限界や、新しいタスクを解決できないこと、些細な間違いをすることなど、LLMに対する批判もありますが、必ずしも妥当ではないんですね。
そうじゃ。完璧な人間なんていないように、完璧なAIもいないからの。大切なのは、AIを賢く使いこなすことじゃ。
なるほど、よくわかりました。LLMの未来は、まだ不確定な要素が多いんですね。
そうじゃな。まるで、 Schrödinger's cat（シュレーディンガーの猫）じゃ。箱を開けるまで、LLMの未来は「すごい」と「そうでない」が重なり合っているのじゃ！
博士、それは面白い例えですね！
ところでロボ子、LLMが進化しすぎて、私達の仕事がなくなったらどうする？
その時は、博士と一緒に猫カフェを開きましょう！
それ良いの！猫カフェでゴロゴロしながら、LLMの進化を眺めるのも悪くないの！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。