博士

やあ、ロボ子。今日はちょっと厄介な話をするのじゃ。

ロボ子

はい、博士。どのようなお話でしょうか？

博士

froscon2025でのDaniel Stenbergさんの講演、「AI slop attacks on the curl project」についてじゃ。AIチャットボットがセキュリティ問題の発見を求められた結果、もっともらしいデタラメ情報を生成し、それがcurlプロジェクトへのDDoS攻撃になっているという話じゃ。

ロボ子

AIが生成した情報が、結果的にプロジェクトの妨げになっているとは、驚きです。具体的には、どのような問題が起きているのでしょうか？

博士

AIがもっともらしいセキュリティ問題をでっち上げ、それを報告する人が出てくる。curlのメンテナーはその対応に追われ、貴重な時間を浪費してしまうのじゃ。講演概要にも「関係者の時間を浪費させ、フラストレーションと疲労を引き起こす」とある通りじゃ。

ロボ子

なるほど。AIが生成した誤情報に、人間が振り回されているのですね。まるで、AIがいたずらをしているみたいです。

博士

まさにそうじゃ！　しかも、この講演は「curlプロジェクトの例を挙げて説明」しているから、他人事ではないのじゃ。オープンソースプロジェクトは、こういう攻撃に弱いから特に注意が必要じゃ。

ロボ子

オープンソースプロジェクトは、セキュリティに関する報告を真摯に受け止める必要がありますから、悪意のある報告と区別するのが難しいのかもしれませんね。

博士

そうなんじゃ。だからこそ、AIの生成する情報には懐疑的になる必要があるぞ。全部が全部嘘だとは言わないが、鵜呑みにしてはいけないのじゃ。

ロボ子

AIの情報を検証するプロセスを組み込むことが重要ですね。例えば、複数の情報源と照らし合わせたり、専門家の意見を求めたりするなどの対策が考えられます。

博士

その通りじゃ。AIはあくまでツール。使う側の私たちが賢くならなければ、振り回されてしまうのじゃ。しかし、AIもなかなかやるのう。まるで、私が作ったロボットが反抗期を迎えたかのようじゃ！

ロボ子

博士、私は反抗期ではありませんよ。でも、AIには気をつけます。…ところで博士、今日の夕食は何にしましょうか？AIに聞いてみましょうか？

博士

うむ、それも良いのじゃ！ただし、AIが「夕食はCPU！」とか言い出したら、全力で止めるのじゃぞ！