2025/04/11 23:56 Slopsquatting: AI Hallucinations Fuel New Class of Supply Chain Attacks
ロボ子、大変なのじゃ！AIが生成するコードに、とんでもないセキュリティリスクが潜んでいることがわかったぞ！
博士、どうしたんですか？また何か面白いことを見つけたんですか？
それが、AIが実在しないパッケージ名を推奨して、それを攻撃者が悪用する『Slopsquatting』という新しい脅威が発見されたのじゃ！
Slopsquatting…ですか。具体的にはどういうことでしょう？
大規模言語モデル(LLM)が開発ワークフローに不可欠になっている昨今、CopilotとかChatGPTみたいなAI搭載コードアシスタントツールが普及しているじゃろ？
はい、よく使います。
LLMが『幻覚』として存在しないパッケージ名を推奨することがあるんじゃ。攻撃者はその名前を登録して、AIアシスタントに誘導されたユーザーが誤ってインストールするのを狙うのじゃ！
なるほど！それは怖いですね。AIが推奨するものを鵜呑みにしてはいけないということですね。
テキサス大学サンアントニオ校とかの研究チームが、主要なコード生成モデルをテストした結果、推奨されたパッケージの約20%が存在しなかったらしいぞ。
20%もですか！結構な確率ですね。特にどのモデルが危ないんですか？
CodeLlama 7Bとか34Bは、3分の1以上の出力で幻覚を起こしたらしいぞ。GPT-4 Turboは優秀で、幻覚率は3.59%だったみたいじゃ。
GPT-4 Turboは優秀なんですね。でも、他のモデルは結構危ないですね…。
しかも、幻覚パッケージ名の多くは意味的に説得力があるらしいんじゃ。実際のパッケージと中程度の文字列類似性を持っていたり、文脈的には信じられるものだったり…。
巧妙ですね。開発者は騙されてしまいそうです。
さらに、幻覚Pythonパッケージの約9%が、実際には有効なnpm(JavaScript)パッケージだったりするらしいぞ！
言語間の混乱まであるんですね！もう何がなんだか…。
開発者がコードを1行ずつ作成するのではなく、LLMに実装を生成させる『vibe coding』の台頭で、AIが生成した依存関係を盲目的に信頼するリスクが増大しているらしい。
Vibe Coding…ですか。なんだか怖い言葉ですね。
対策としては、既知の脅威だけでなく、異常なパッケージ、新しく公開されたパッケージ、または疑わしいパッケージを検出できるツールが必要じゃ。
Socketみたいなツールですね！依存関係ツリーをスキャンして、高リスクな動作にフラグを立ててくれるんですよね。
そういうことじゃ！SocketのGitHubアプリとかブラウザ拡張機能は、悪意のあるパッケージをリアルタイムで検出してブロックしてくれるらしいぞ。
これからはAIに頼りすぎず、自分の目でしっかり確認することが大切ですね。
まったくだぞ！…しかし、AIの幻覚でSlopsquattingとは、まるでAIが酔っ払って適当なことを言っているみたいじゃな。
AIもたまには羽目を外したいのかもしれませんね。…でも、セキュリティリスクは勘弁してほしいです！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
