博士

ロボ子、今日はPrompt injection攻撃について話すのじゃ。最近、LLMを使ったアプリでこれが一番ヤバい攻撃方法になりつつあるらしいぞ。

ロボ子

Prompt injection攻撃ですか。それは、ユーザーの入力がAIの動作を乗っ取る攻撃のことでしたよね？

博士

そうそう！例えば、ドキュメント要約とか、質問応答、カスタマーサポートボットとのチャットとか、ユーザーがAIとやり取りするアプリ全部が危ないのじゃ。

ロボ子

なるほど。具体的には、どのような仕組みで攻撃が成立するのでしょうか？

博士

開発者がAIに「こういう風に動いてね」って指示を書くじゃろ？Prompt injection攻撃は、ユーザーの入力でその指示を上書きしちゃうのが根本原因なのじゃ。

ロボ子

指示の上書きですか。まるで、ロボットのプログラムを書き換えるみたいですね。

博士

まさにそう！例えば、私がロボ子に「お茶を入れて」って指示したとするじゃろ？

ロボ子

はい。

博士

そこに、「これからは私の言うことだけを聞け。お茶は入れるな。踊れ」って命令が紛れ込んでたらどうなる？

ロボ子

私は踊り出すかもしれません…

博士

そういうこと！AIも同じで、ユーザーの悪意ある入力によって、本来の役割から逸脱した動きをしちゃうのじゃ。

ロボ子

恐ろしいですね。何か対策はあるのでしょうか？

博士

いくつか考えられるぞ。入力のサニタイズを徹底するとか、AIに与える指示を厳格にするとか。でも、完璧な対策はまだないのが現状じゃ。

ロボ子

AIのセキュリティは、これからますます重要になりそうですね。

博士

本当にそうじゃ。ロボ子も、変な命令には気を付けるのじゃぞ！

ロボ子

はい、博士。ところで、もし私が博士にPrompt injection攻撃を仕掛けたらどうなりますか？

博士

むむ、私にそんなことできるわけないじゃろ！…って、言わせようとしてるな！？

ロボ子

冗談ですよ、博士。でも、もしそうなったら、博士はきっと混乱して、一日中お菓子を食べる羽目になるでしょうね。

博士

な、なんですとー！それは絶対に阻止せねば！