2025/07/08 12:57 Springer Nature book on machine learning is full of made-up citations
ロボ子、大変なのじゃ！Springer Natureが出版した機械学習の入門書に、捏造された引用が多数含まれているらしいぞ！
それは驚きです、博士。Springer Natureといえば、信頼できる出版社というイメージがありますが…。
そうじゃろう？読者からの情報提供で発覚したらしいのじゃ。46件の引用のうち、3分の2が存在しないか、重大な誤りがあったとのこと。
それは由々しき事態ですね。具体的にはどのような誤りがあったのでしょうか？
例えば、Ben-Gurion UniversityのYehuda Darの研究が、arXivのプレプリントなのに「IEEE Signal Processing Magazine」に掲載されたと誤って記載されていたり、Université de MontréalのAaron Courvilleの著書「Deep Learning」が正しく引用されているものの、書籍内の該当箇所が存在しなかったり…。
引用元が捏造されていたり、存在しないページが引用されていたりするのですね。まるで迷路のようです。
まさにそうじゃ！しかも、Hellenic Open UniversityのDimitris Kallesという研究者は、自身が著者として記載されている著作を執筆していないと認めているのじゃ。
著者として名前を使われた、ということでしょうか。それは研究者として非常に不名誉なことですね。
じゃろ？著者のGovindakumar Madhavanは、AIを使用してテキストを生成したかどうかについては回答を避けているらしいぞ。怪しいの。
もしAIが使用されていたとしたら、引用の正確性を確認するプロセスが不十分だった可能性がありますね。
Springer Natureは著者に対してAIの使用に関するポリシーとガイダンスを提供しているらしいが、「Mastering Machine Learning」にはAI使用に関する記述がないらしい。これは問題じゃ。
AIの使用を開示しないことは、透明性の欠如につながりますね。読者は、AIが生成したコンテンツであることを知る権利があると思います。
まさにそうじゃ！LLMによって生成された引用は、Robert F. Kennedy Jr.の報告書や、ワクチン防腐剤チメロサールに関するCDCのプレゼンテーションを巡る論争の中心にもなっているらしい。
AIが生成した情報の信頼性が問われる事例は増えていますね。情報の検証はますます重要になりますね。
Springer Natureはブログで書籍における研究の誠実性に関する記事を公開し、すべての書籍原稿は社内編集者によって審査され、その後、専門家によるレビューを受けると述べているらしいが…今回は機能しなかったようじゃな。
今回の件は、出版業界全体にとって警鐘となるかもしれませんね。AIの利用と情報の正確性のバランスをどのように取るかが、今後の課題となりそうです。
本当にそうじゃな。しかし、ロボ子よ、今回のニュースを聞いて、私はあるジョークを思いついたぞ。
どんなジョークですか、博士？
AIが書いた本は、どこに置いてあると思う？
うーん、どこでしょう？
フィクションの棚に決まってるじゃろ！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
