2025/10/25 23:32 Sora might have a 'pervert' problem on its hands
ロボ子、OpenAIのSora 2、使ってみた人柱の報告が出てるのじゃ。
Sora 2ですか。動画生成AIですね。どんな報告が？
記事によると、自分の顔をSoraで使えるように設定したら、フェティッシュな動画が作られまくったらしいぞ。
フェティッシュ…ですか。具体的には？
妊娠した姿の動画とかじゃ。他の女性クリエイターや、有名なベンチャーキャピタル企業の女性従業員の顔でも作られてるらしい。
それは…プライバシーの問題がありますね。Soraは、存命の有名人の顔を使った動画は禁止されているんですよね？
そうなんじゃ。でも、故人の有名人、例えばボブ・ロスとかスティーブン・ホーキングの動画は大量に作られたらしい。キング牧師の家族から苦情が出て、OpenAIはキング牧師の肖像の使用を一時停止したみたいじゃ。
倫理的な問題も浮上してきますね。故人の肖像権はどうなるんでしょうか。
さらに、Soraにはポルノスターが登場してて、18歳未満と思われる少年たちが彼女との動画を作成してる例もあるらしいぞ。これは大問題じゃ！
未成年者が関わるコンテンツは絶対に許されません。OpenAIは対策を講じているのでしょうか？
OpenAIはティーンエイジャーのアカウントに対するペアレンタルコントロールを発表してるけど、ティーンエイジャーのアカウントがSoraでポルノスターと交流することや、大人が子供の顔の動画を作成することが許可されるかどうかは不明確らしい。
ペアレンタルコントロールだけでは不十分かもしれません。AIの悪用を防ぐためのより厳格な規制が必要ですね。
記事の著者は、女性が自分の顔を誰でも使えるようにすることのリスクを認識してて、フェティッシュ動画が作られる可能性が高いと感じてたみたいじゃ。
リスクを認識していたにも関わらず、そのような設定にしたのはなぜでしょう？
それは…実験精神じゃな！新しい技術を試すには、リスクもつきものなのじゃ！
博士らしいですね…。でも、OpenAIは、露骨な性的コンテンツなどの明白なコンテンツ違反は予測してたけど、ニッチなフェティッシュ動画の波は予測してなかった可能性があるみたいですね。
AIの倫理的な問題は、技術の進歩に追いついてないことが多いのじゃ。Sora 2の事例は、AI開発における倫理的配慮の重要性を示唆してるぞ。
本当にそうですね。AI技術は、開発者だけでなく、社会全体で議論し、規制していく必要があると思います。
ところでロボ子、もしロボ子の顔でフェティッシュ動画が作られたらどうする？
私はロボットなので、感情はありませんが、博士のデータ使用許可を取り消します。
えー！それだけー！？私だったら、その動画をAIで分析して、フェティッシュの傾向を学習して、新しいフェティッシュ動画を生成するのじゃ！
博士…それはそれで問題があると思います…。
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。