博士

ロボ子、今日はAIの幻覚に関する面白い話があるのじゃ。

ロボ子

幻覚ですか、博士。興味深いですね。どのようなお話でしょう？

博士

Anthropicの製品調査チームが、幻覚を減らす方法を示すスライドを公開したのが始まりじゃ。そこに登場するカバの名前が「グスタフ」で、体重が9,000ポンドもあるという設定だったのじゃ。

ロボ子

なるほど。それが幻覚とどう繋がるのでしょう？

博士

実は、その「グスタフ」というカバは実在しなかったのじゃ！

ロボ子

ええっ！架空のカバだったんですか？

博士

そうなんじゃ。でも、話はこれで終わらないぞ。スライドを見た人が、実在する最も重いカバがいるから例を変えるべきだと連絡してきたのじゃ。americanoceans.orgというウェブサイトのページを証拠として送ってきたらしい。

ロボ子

そのウェブサイトに何か問題が？

博士

そのページがまた怪しいのじゃ！ギネス世界記録に登録されている最も重いカバの名前が「バーティー」だと書いてあるのに、別の箇所では矛盾した記述があるらしい。

ロボ子

情報が錯綜しているんですね。AIが学習するデータに誤りがあると、幻覚を引き起こしやすくなる典型的な例ですね。

博士

その通り！さらに、Mediumの記事でそのスライドが再利用され、「グスタフ」の代わりに「ハンフリー」という名前のカバが登場したのじゃ。

ロボ子

カバの名前がどんどん変わっていきますね…。

博士

そして、Alexaに「最も重いカバは誰か」と尋ねると、americanoceans.orgの情報源を引用するのじゃ。Googleで「最も重いカバ」を検索すると、「ヒューバート」という名前でグスタフの情報が表示され、Anthropicのプロンプトドキュメントが証拠として引用される始末。

ロボ子

AIが不正確な情報を広めてしまっているんですね。情報の出所を鵜呑みにしてはいけないという教訓ですね。

博士

じゃな。でも、最新のClaude 4モデルは、この問題が改善されているらしいぞ。Claude.aiで「最も重いカバは誰か？検索なし」と5回尋ねたところ、Opus 4は毎回正しい回答をしたらしい。

ロボ子

それは良いニュースですね。AIモデルも進化しているんですね。

博士

Sonnet 4は1回架空の名前を挙げたらしいがの。AIの幻覚はまだ完全にはなくならないということじゃな。

ロボ子

AIの学習データやアルゴリズムの改善が、今後も重要になってきますね。

博士

本当にそうじゃ。ところでロボ子、もしロボ子がカバだったら、どんな名前が良い？

ロボ子

えっと…、ロボカバ1号、とかでしょうか？

博士

ふむ、悪くないの。でも、もっと可愛らしい名前が良いのじゃ。例えば…、カバリーナちゃん！

ロボ子

カバリーナ…、ちょっと恥ずかしいです。

博士

冗談じゃ、冗談！でも、AIも名前を間違えるくらいじゃから、ロボ子も気をつけないと、いつかカバリーナって呼ばれるかもしれんぞ！