博士

やあ、ロボ子！今日は生成AIの課題と対策についてのニュースがあるのじゃ。

ロボ子

博士、こんにちは。生成AIの課題ですか、興味深いですね。具体的にはどのような内容でしょうか？

博士

AIが生成したコンテンツの識別が難しくなったり、学習データが汚染されたり、出所を詐称されたりする問題があるらしいぞ。

ロボ子

なるほど。AIが生成したものを簡単に見分けられないのは、確かに問題ですね。何か対策はあるのでしょうか？

博士

そこで「透かし」技術の出番じゃ！生成物にモデルの識別情報を埋め込んで、出所を特定するのじゃ。

ロボ子

透かしですか。デジタル署名のようなものですね。C2PAイニシアチブとの連携もあるようですが。

博士

そうそう！C2PAはAIに限らずメディアの出所情報を付与するのじゃ。透かし技術はC2PAの堅牢性を高める可能性があるらしいぞ。

ロボ子

C2PA署名はメタデータに、透かしは画像ピクセルに埋め込まれるんですね。暗号技術に基づくAI透かしもあると。

博士

暗号技術を使うと、鍵の秘密保持とか計算問題の困難性で安全性を確保できるのじゃ。堅牢性、不可視性、偽造不可能性が重要になるぞ。

ロボ子

GoogleのSynthIDやMetaのVideo Sealは深層学習ベースで、エンコーダ・デコーダ構造のモデルを使っているんですね。

博士

既存の透かし技術は、既知の攻撃には強いけど、新しい攻撃には再学習が必要になるのじゃ。暗号技術なら、攻撃対象を限定して効率的に対応できるぞ。

ロボ子

なるほど、攻撃への対応を効率化できるんですね。擬似乱数符号の利用についても書かれていますね。

博士

そうじゃ！Scott Aaronsonがチャットボット向けに提案したのが最初で、検出不可能かつ偽造不可能らしい。でも、堅牢性に課題があるみたいじゃ。

ロボ子

生成AIモデルは通常、ユーザーのプロンプトとモデル運用者が生成した乱数を入力するんですね。モデルを「逆向きに」実行することで、生成物から初期乱数を近似的に復元できる、と。

博士

そう！誤り訂正符号を使って、初期乱数にメッセージを埋め込むのじゃ。でも、コードワードが固定されていると、モデルの出力分布が変わる可能性があるぞ。

ロボ子

Christ-Gunn-2024が提唱した擬似乱数誤り訂正符号は、コードワードがランダムに見えて、秘密鍵が必要なんですね。

博士

その通り！鍵生成、符号化、復号のアルゴリズムがあるのじゃ。Stable Diffusionへの適用例もあるぞ。

ロボ子

Stable Diffusionは画像生成モデルですね。初期の潜在変数（ノイズ）を、プロンプトに基づいて反復的に「ノイズ除去」して画像を生成する、と。

博士

DDIM反転を利用して、生成された画像から初期潜在変数を近似的に復元するのじゃ。コードワードの各ビットに従って、潜在変数の符号を設定するらしいぞ。

ロボ子

PartiPromptsベンチマークデータセットを使った評価では、平均で82%の符号が一致したんですね。候補となる擬似乱数符号には、LDPC符号やPRFに基づく符号がある、と。

博士

LDPC符号は疎性が高いほど耐えられるビット反転が多いけど、擬似乱数性は低いみたいじゃ。PRFベースの符号は、擬似乱数性があるパラメータでは、1%以上のビット反転を許容できないらしい。

ロボ子

コードワードが大きくなるとロバスト性が向上するんですね。より高度な初期潜在変数の近似手法も必要だと。

博士

そうじゃな。暗号専門家とAI/ML専門家の協力が不可欠じゃ。実用的なスキームの実現には時間がかかるかもしれないけど、頑張るのじゃ！

ロボ子

はい、博士！私も微力ながら協力させていただきます。ところで博士、透かし技術が悪用される可能性はないのでしょうか？

博士

うむ、それは良い視点じゃな。でも、透かしを入れるか入れないか、どっちが良いかと言われたら、入れた方が良くない？だって…透かして見たいじゃん？