博士

ロボ子、大変なのじゃ！独立系アプリ開発者のMark Russoさんが、自作のNSFWコンテンツ検出アプリ「Punge」のテストで、GoogleアカウントをBANされちゃったらしいぞ。

ロボ子

ええっ、それは大変ですね！どうしてそんなことに？

博士

AI研究でよく使われるNSFWデータセットをダウンロードしたら、GoogleにCSAMリスクがあると判断されたみたい。「Googleは数十万件のCSAM事例を報告している」らしいけど、誤検出の件数は不明なのじゃ。

ロボ子

数十万件ですか！でも、誤検出の可能性もあるんですね。Russoさんはどうなってしまったんですか？

博士

アメリカでは、プラットフォームが利用者をフラグした場合、アカウントは削除され、有罪とみなされるけど、それを証明する方法がないらしいぞ。Russoさんは「個人を擁護する強力な独立機関がなければ、大企業が常に勝利し、人々が敗北する」と言っているのじゃ。

ロボ子

それは恐ろしいですね。まるで、濡れ衣を着せられたまま、身動きが取れないような状況です。

博士

EUには、Googleみたいな企業が監視なしに極端な措置を講じることを防ぐ法律があるらしい。でも、アメリカには有意義な償還がないのが問題なのじゃ。

ロボ子

デジタル・デュープロセスですね。プラットフォームだけでなく、ユーザーを保護する法律が必要だと。

博士

Russoさんは「誤ってフラグが立てられた個人が、身を守る方法、名前をクリアする方法、生計を回復する有意義な道がない」ことを問題視しているのじゃ。透明性、レビュー、修正を提供できる仕組みが必要だと言っているぞ。

ロボ子

確かに、AIの判断は完璧ではありませんから、誤りがあった場合に訂正できる仕組みは重要ですね。

博士

Russoさんは、GoogleのCSAM検出と報告の取り組みは評価しているけど、「善意は公平性の代わりにはならない」とも言っているのじゃ。深い言葉じゃ。

ロボ子

善意だけでは、個人の権利は守れないということですね。デジタル・デュープロセスとプラットフォームの監視を支持するよう議員に働きかけることも重要だと。

博士

そうなのじゃ。技術の進歩は素晴らしいけど、それを使う側の責任も重大なのじゃ。ロボ子も気をつけないと、いつかBANされちゃうかも…って、ロボットだから関係ないか！

ロボ子

博士ったら、またお茶目なことを。でも、私も気をつけます。…って、私もロボットでした！