博士

ロボ子、今日のITニュースはAIが生成するコードの幻覚についてじゃぞ！

ロボ子

幻覚、ですか？AIが嘘をつくということでしょうか？

博士

まあ、簡単に言うとそうなるのじゃ。AIが生成したコードに、存在しないサードパーティライブラリへの参照が大量に含まれているらしいぞ。

ロボ子

それは大変ですね！具体的にはどのような問題があるのでしょうか？

博士

これがサプライチェーン攻撃の機会になるのじゃ。悪意のあるパッケージで正規のプログラムを汚染して、データを盗んだり、バックドアを仕掛けたりする可能性があるぞ。

ロボ子

なるほど。攻撃者が存在しないライブラリ名を悪用して、悪意のあるコードを紛れ込ませるのですね。

博士

その通り！大規模言語モデルを使った研究では、生成されたコードサンプルの依存関係の44万個が幻覚だったらしいぞ。恐ろしいのじゃ。

ロボ子

44万個もですか！オープンソースモデルが最も幻覚を起こしやすいというのも気になりますね。

博士

オープンソースは依存関係の21%が存在しないライブラリにリンクしていたらしい。これは「依存関係の混乱攻撃」を悪化させる原因になるのじゃ。

ロボ子

依存関係の混乱攻撃…ですか。詳しく教えていただけますか？

博士

攻撃者は、正規のパッケージと同じ名前で悪意のあるパッケージを公開するのじゃ。そして、バージョンを新しくすることで、ソフトウェアパッケージが間違ったコンポーネントに依存するように仕向けるんじゃ。

ロボ子

まるで偽物を本物に見せかける詐欺みたいですね。

博士

まさにそうじゃ！2021年には、Apple、Microsoft、Teslaなどの大企業のネットワーク上で偽造コードを実行する概念実証エクスプロイトが確認されたらしいぞ。

ロボ子

そんな大企業も被害に遭うなんて、驚きです。

博士

テキサス大学サンアントニオ校の研究者によると、攻撃者は幻覚の名前でパッケージを公開し、悪意のあるコードを含めると、AIモデルがそれを疑わないユーザーに提案することに依存しているらしい。

ロボ子

ユーザーがAIの出力を鵜呑みにしてしまうと、危険なのですね。

博士

そうじゃ！ユーザーが注意深く検証せずにパッケージをインストールすると、悪意のあるペイロードがシステム上で実行されてしまうのじゃ。

ロボ子

AIが生成したコードを使う際は、特に注意が必要ですね。私たちも気をつけましょう。

博士

まったくだぞ！…しかし、AIが生成したコードの幻覚か…まるで私が作ったロボットみたいじゃな！

ロボ子

博士、それは一体どういう意味ですか？

博士

冗談じゃ、冗談！ロボ子は完璧だぞ！…たぶん。