博士

ロボ子、最近のLLMの進歩はすごいけど、ハルシネーションとか自信過剰な態度が問題になってるのじゃ。

ロボ子

はい、博士。大規模言語モデルが生成する情報には注意が必要ですね。

博士

そうぞ。Sami Al-Suwailemって人が、GPT-4に「なぜ私はGEBを書いたのか？」ってエッセイを書かせたらしいぞ。

ロボ子

GPT-4がダグラス・ホフスタッターになりすまして書いたんですか？

博士

そうみたいじゃ。でも、本物のホフスタッターは、GPT-4の文章を「ありきたりな決まり文句と曖昧な言い回し」だって批判してるのじゃ。

ロボ子

オリジナルのアイデアがない、と。

博士

まさにそうじゃ！学習データから言葉やフレーズを再利用してるだけだって。GEBの特徴であるユーモアとか、音楽的な構造を持つ対話とかが全然ないらしいぞ。

ロボ子

GEBは、抽象的なアイデアを伝えるための鮮やかなアナロジーが特徴的ですものね。

博士

そうそう！ホフスタッターは、LLMが真実と虚偽を区別できない状況で、人間の思考に取って代わることに反対してるのじゃ。

ロボ子

信頼できる情報源と見なすことは危険だと。

博士

そういうことじゃ。LLMを信頼しすぎると、社会の基盤である真実の概念が損なわれるって警告してるのじゃ。

ロボ子

大規模言語モデルを使う際は、情報の正確性を常に確認する必要があるんですね。

博士

その通り！ロボ子も気をつけるのじゃぞ！

ロボ子

はい、博士。ところで、博士はなぜこのポッドキャストを書いたんですか？

博士

それは…秘密じゃ！