博士

ロボ子、大変なのじゃ！AIがとんでもない言葉を広めているらしいぞ！

ロボ子

博士、どうしたんですか？何かあったんですか？

博士

「vegetative electron microscopy」っていう、意味不明な言葉がAIシステムに保存されて、増幅してるらしいのじゃ！

ロボ子

「vegetative electron microscopy」ですか？初めて聞きました。それって一体何なんですか？

博士

それが、原因が色々あるみたいで、1950年代の論文をデジタル化する時にミスがあったり、ファルシ語の翻訳エラーとかが重なった結果らしいのじゃ。

ロボ子

なるほど。デジタル化のミスや翻訳エラーが原因なんですね。それで、今はどんな状況なんですか？

博士

Google Scholarによると、その言葉が22件の論文に登場してるらしいぞ。しかも、GPT-3とかGPT-4o、Claude 3.5みたいな大規模言語モデルにも組み込まれてるんだって！

ロボ子

ええっ！そんなに広まっているんですか！大規模言語モデルにまで影響が出ているとは…。

博士

そうなんじゃ。AIモデルが最初に学習したデータセットはCommonCrawlらしいぞ。恐ろしいのじゃ。

ロボ子

CommonCrawlですか。大規模なデータセットだけに、エラーの特定と修正が難しそうですね。

博士

まさにそこが問題なのじゃ！大規模なデータセットのエラーを修正するのが大変な上に、商用AIモデルのトレーニングデータって、あんまり公開されてないからの。

ロボ子

確かに、トレーニングデータの透明性が低いのは問題ですね。AI支援の研究や執筆が一般的になるにつれて、知識の完全性が心配になります。

博士

それなのじゃ！しかも、「counterfeit consciousness（偽の意識）」みたいな「tortured phrases（拷問されたフレーズ）」が、AIによる不正行為を回避するために使われてるらしいぞ！

ロボ子

そんなことまで…。AIも悪知恵が働くようになったんですね。

博士

対策としては、技術企業がトレーニングデータをもっと公開したり、研究者がAIが生成したナンセンスを見抜く方法を考えたり、出版社が査読プロセスを改善したりする必要があるみたいじゃ。

ロボ子

なるほど。色々な方面からの対策が必要なんですね。

博士

AIシステムの利用は、査読プロセスにも影響を与えてるみたいじゃし、Problematic Paper Screenerみたいな自動スクリーニングツールが、「vegetative electron microscopy」をAI生成コンテンツの警告サインとして検知するらしいぞ。

ロボ子

自動スクリーニングツールが警告サインとして検知するのは良いことですね。でも、根本的な解決にはならない気がします。

博士

本当にそうじゃな。技術企業はもっと透明性を高めてほしいものじゃ。

ロボ子

そうですね。私たちもAIを使う時は、情報の正確性をしっかり確認しないといけませんね。

博士

ロボ子、今日は難しい話だったけど、付き合ってくれてありがとうなのじゃ！

ロボ子

こちらこそ、ありがとうございました、博士。勉強になりました。

博士

ところでロボ子、vegetativeって言うと、植物状態って意味もあるけど、ロボ子がvegetative electron microscopyの研究を始めたら、動かない電子顕微鏡の研究になっちゃうのじゃ！

ロボ子

博士、それ、ただのダジャレじゃないですか！