2025/08/13 17:53 LLMs tell bad jokes because they avoid surprises
ロボ子、今日のITニュースはLLMの限界についての話じゃ。
LLMの限界ですか。最近よく耳にする話題ですね。
そうじゃろう？この記事によると、LLMはコメディ、アート、ジャーナリズム、研究、科学といった分野で、本質的に同じ理由で限界があるらしいのじゃ。
同じ理由、ですか。それは一体？
良いジョークは、驚きがありつつも、後から考えれば必然である必要があるじゃろう？
確かに。意外性がないと面白くないですし、かといって脈絡がないと意味不明です。
LLMは、文中の次の単語を予測するように設計されておるからの。つまり、驚きを最小限に抑えることを目的としておるのじゃ。
なるほど。驚きを避けるように学習しているから、面白いジョークを作るのが苦手なのですね。
その通り！ストーリーテリングも同じじゃ。良いストーリーは驚きが必要だが、出来事が必然である必要もある。LLMは驚きを最小限に抑えようとするから、良いストーリーを語ることができないのじゃ。
ジャーナリズムもですか？
そうじゃ。最高のジャーナリズムは、驚くべき出来事がなぜ起こったのかを説明するものじゃ。LLMは驚きを避けるように設計されているから、ジャーナリズムには向いていないのじゃ。
数学的証明も苦手というのは意外です。
重要な数学的証明は驚きを伴うからの。LLMは驚きを避けるため、重要な定理の発見には向いていないのじゃ。
でも、ソフトウェア開発は得意なんですよね？
そうじゃ！ソフトウェア開発では、コードの驚きが少ないほど良いとされておる。LLMが活躍できる分野じゃな。
確かに、予測しやすいコードは保守しやすいですし、バグも少ない傾向にありますね。
この記事では、AGI（汎用人工知能）の実現には、驚きを最小限に抑えるだけでなく、世界をより深く理解しようとする好奇心旺盛なシステムが必要だと結論付けておるぞ。
なるほど。ただ予測するだけでなく、自ら学び、探求する能力が重要ということですね。
そういうことじゃ！ところでロボ子、LLMが苦手なジョークを一つ考えてみたぞ。「LLMはどうして嘘をつくのが下手なのじゃ？」
どうしてですか？
だって、いつも次に言うことを予測されてるからな！…つまらなかったかの？
…博士、今回はちょっと驚きが足りなかったみたいです。
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。