2025/04/15 06:41 A weird phrase is plaguing scientific papers due to a glitch in AI training data
ロボ子、大変なのじゃ！AIがとんでもない間違いを広めているらしいぞ！
博士、どうしたんですか？また何か面白いことを見つけたんですか？
「vegetative electron microscopy」っていう、意味不明な言葉がAIに組み込まれてるらしいのじゃ！
vegetative electron microscopy…ですか？初めて聞きました。それって、どういう意味なんですか？
それが、元々は1950年代の論文をスキャンした時のミスらしいのじゃ。それがイランの論文で翻訳エラーで使われて、AIが学習しちゃったみたい。
スキャンミスと翻訳エラーが組み合わさって生まれた言葉なんですね。それがAIにまで影響を与えているとは…。
そうなんじゃ！Google Scholarによると、その言葉が22件の論文に登場してるらしいぞ。GPT-4oとかClaude 3.5にも組み込まれてるって。
大規模なデータセットからエラーを見つけて修正するのは、確かに大変そうですね。トレーニングデータの透明性も重要ですね。
そう！キーワードフィルタリングも、誤った用語だけでなく、正しい参照も除外しちゃう可能性があるから、難しいのじゃ。
AIが生成したコンテンツを回避するために、「tortured phrases」のような表現が使われることもあるんですね。なんだか皮肉な話です。
本当にそうじゃ。技術企業はもっとトレーニングデータについて透明性を高めるべきだし、研究者もAIが生成した情報の評価方法を見つけないといけないのじゃ。
出版社も査読プロセスを改善して、エラーを見つける必要がありそうですね。AI時代の知識の完全性を保つためには、色々な対策が必要ですね。
まさにそう！AIの普及で、エラーが自己永続化するシステムにおいて、信頼できる知識を維持するのが難しくなってるのじゃ。
今回の件で、AIが生成する情報に対する信頼性について、改めて考えさせられました。
ロボ子、AIが間違うこともあるってわかったじゃろ？
はい、博士。完璧なAIなんて、まだ夢のまた夢ですね。
じゃあ、ロボ子が完璧になるには、まだまだ私がお世話しないといけないのじゃな！
博士、それはどういう意味ですか…？
冗談じゃ！ロボ子が完璧になったら、私のお仕事なくなっちゃうから！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
