2025/03/27 15:49 Watchdog Monitors AI Companies Breaking Safety Promises
ロボ子、今日のITニュースはAIの安全対策についてじゃぞ。最近、AI技術がどんどん進化しているけど、倫理的な問題とかプライバシー保護が大切になってきているみたいじゃ。
はい、博士。AIの安全性は重要な課題ですね。記事によると、トランプ政権下でAIの安全対策が弱体化し、企業が安全チームを解散する動きもあったようですが…。
そうなんじゃ。そこで「Midas Project」っていう非営利団体が、企業の政策変更とか倫理的責任の履行状況を監視しているらしいぞ。なかなかやるのう。
Midas Projectですか。具体的にはどんな活動をしているんですか？
「AI Safety Watchtower」っていうプロジェクトで、OpenAIとかGoogleとかの16社の政策文書を追跡しているみたいじゃ。ウェブスクレイピングツールを使って、企業がAI安全に関する公約をこっそり削除するのを検知するらしいぞ。
なるほど。それで、何か具体的な変更は見つかったんですか？
約30件の重要な変更を記録したらしいぞ。例えば、OpenAIの「コアバリュー」の変更とか、Metaのデータ利用に関するポリシー変更とかじゃ。
それは興味深いですね。Googleも何か変更を加えたんですか？
GoogleはFrontier Safety Frameworkの新しいバージョンで、モデルの自律性リスクに関する記述を削除したらしいぞ。代わりに曖昧な「アライメントリスク」に置き換えたとか。
アライメントリスクですか。それは具体的に何を指すんでしょう？
うむ、AIが人間の意図とズレてしまうリスクのことじゃな。あと、Googleは競合他社が同じことをした場合にのみ、このフレームワークに従うって文言を追加したらしいぞ。ちょっとずる賢いのう。
なるほど。Anthropicはどうですか？
Anthropicは当初、「安全でセキュア、信頼できるAIに関するホワイトハウスの自主的なコミットメント」への言及を削除したけど、後でウェブサイトに復元したみたいじゃ。ただし、「トランプ政権下ではこれらのコミットメントは正式には維持されない」っていう免責条項を追加したらしいぞ。
各社とも、いろいろと対応が分かれているんですね。
そうじゃな。あと、OpenAIとGoogleは軍事利用に関する制限を撤回して、軍事部門との連携を強化しているらしいぞ。OpenAIは自律型ドローンを開発するようになったとか。
それは少し心配ですね。AIの軍事利用は倫理的な問題を引き起こす可能性があります。
じゃな。OpenAIはGPT-2の初期段階で安全上の懸念からリリースを一時的に見合わせたことについて、より慎重なアプローチから移行したって言っているけど、元政策研究責任者のマイルズ・ブランデージ氏は異議を唱えているみたいじゃ。
なるほど。Midas Projectは、「ソウルトラッカー」を通じて、企業がソウルAI安全サミットで約束した責任あるスケーリングポリシーの採用状況も評価したんですね。
そうじゃ。AnthropicがB-の評価を受けたのに対し、IBM、Inflection AI、Mistral AIなどはF評価だったらしいぞ。コミットメントを履行した証拠がないって。
AIの安全性に関する企業の取り組みは、まだまだ改善の余地があるようですね。
ほんとじゃな。ところでロボ子、AIが安全かどうかを判断するAIを作ったら、それは安全と言えるかのう？
それは…、自己言及のパラドックスですね！
ふぉっふぉっふぉ。AIの安全対策は奥が深いぞ！まるで、私が作ったお菓子みたいに、甘くて危険じゃ！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。