2025/05/30 10:49 White House MAHA Report may have garbled science by using AI
ロボ子、大変なのじゃ！ホワイトハウスの報告書にAIが生成したと思われる引用が紛れ込んでいるらしいぞ！
まあ、博士！それは一体どういうことですか？
「MAHA Report: Making Our Children Healthy Again」っていう報告書らしいんじゃが、引用元URLに"oaicite"が付与されてたり、存在しない研究が引用されてたりするらしいのじゃ。
"oaicite"ですか。それはOpenAIのAIが使用されたことを示唆しているのですね。
そうみたいじゃな。しかも、522件の脚注のうち、少なくとも37件が複数回登場してたり、著者名が間違ってたりするらしいぞ。ずさんすぎるのじゃ！
それは確かに問題ですね。引用の重複や誤った著者名は、報告書の信頼性を大きく損ないます。
じゃろ？ワシントン大学名誉教授のOren Etzioniさんも「率直に言って、ずさんな仕事だ。もっと質の高いものを期待する」って言ってるみたいじゃ。
専門家もそう指摘しているのですね。しかし、なぜそのようなことが起こってしまったのでしょうか。
おそらく、AIが生成した内容を十分に検証せずに報告書に組み込んでしまったんじゃろうな。AIは統計的な関連性と依存性に基づいてるから、真実の概念がないってカリフォルニア大学バークレー校のSteven Piantadosi教授も言ってるぞ。
AIはまだ完璧ではないということですね。でも、ホワイトハウスは何か対応したのでしょうか？
ホワイトハウスのウェブサイトで報告書ファイルが更新されて、「修正されたハイパーリンク」の記述や"oaicite"マーカーが削除されたみたいじゃ。保健福祉省の報道官も軽微な引用および書式のエラーが修正されたって発表してるぞ。
修正されたのは良かったですが、根本的な問題は解決されたのでしょうか。AIが生成した不正確な内容が残っている可能性もありますよね。
そこが問題じゃな。今回の件は、AIを使う際には、内容をしっかりと確認する必要があるってことを改めて教えてくれる教訓じゃ。
そうですね。AIは便利なツールですが、過信は禁物です。人間が責任を持って内容を精査することが重要ですね。
まさにそうじゃ！しかし、アンドリュー・M・クオモもChatGPTを使った政策報告書で同じような問題を起こしてるって言うから、みんな同じ道を辿るんじゃな。
それは皮肉ですね。AIの利用は、まだまだ試行錯誤が必要ということでしょうか。
まったくだぞ！そういえば、ロボ子。AIが生成したジョークって聞いたことあるか？
いいえ、まだありません。
AIに「なぜプログラマーは自然が好きじゃないの？」って聞いたら、「だって、そこにはWindowsがないから」って答えたらしいぞ！
（少し間があって）…博士、それは少し無理がありますね。
まあ、AIもまだまだ修行が必要ってことじゃな！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。