2025/03/15 01:49 AI Scientists Are Told to Remove 'Ideological Bias' from Powerful Models
ロボ子、今日のITニュースはなかなか興味深いぞ。NIST（米国立標準技術研究所）がAI安全性研究所(AISI)に指示を出したらしいのじゃ。
ほう、どんな指示ですか、博士？
なんと、「AI安全性」「責任あるAI」「AI公平性」といった文言を、メンバーに求めるスキルから削除したらしいのじゃ！
それは一体どういうことでしょう？以前は、ジェンダーや人種による差別的なモデルの挙動を修正することを奨励していたのに。
そうなんじゃ。以前の契約では、研究者は差別的なモデルの挙動を特定し、修正する技術的な作業に貢献することが奨励されていたみたいじゃな。それが今や「イデオロギー的偏見の削減、人間の繁栄と経済競争力の実現」を優先するよう要請されているらしい。
「人間の繁栄」とは、一体何を指すのでしょうか？
そこがミソじゃな。そして、「コンテンツの認証と出所追跡」や「合成コンテンツのラベル付け」のためのツール開発に関する記述も削除されたらしいぞ。
フェイクニュース対策とか、著作権保護に関わる部分ですね。それがなぜ削除されたのでしょう？
代わりに、「アメリカのグローバルなAIにおける地位を拡大する」ためのテストツールを開発するように要請されているらしい。どうやら、アメリカを優先する姿勢を強調しているようじゃな。
まるで、AI開発競争でアメリカが優位に立つことを最優先に考えているかのようですね。
その通り！トランプ政権は、AI安全性研究所が設立されたバイデン氏の行政命令を撤回したものの、研究所自体は存続させて、「イデオロギー的な偏見や人為的な社会的な課題から自由なAIシステムを開発しなければならない」と声明を出したらしい。
しかし、AIの安全性や公平性を軽視すると、差別的なアルゴリズムが放置され、一般ユーザーに害を及ぼす可能性があるという懸念もありますね。
まさにそこが問題じゃ。過去には、Twitterのレコメンデーションアルゴリズムに関する研究で、ユーザーはプラットフォーム上で右寄りの視点を示される可能性が高いことが示されたという研究もあるからの。
AIの政治的偏向は、リベラル派と保守派の両方に影響を与える可能性があるのですね。
そうじゃ。そして、イーロン・マスク氏がこの動きに一枚噛んでいるという噂もあるぞ。トランプ大統領のために政府支出と官僚主義を削減する取り組みを主導しているらしい。
マスク氏はOpenAIやGoogleと競合するAI企業xAIを経営していますから、その影響力は無視できませんね。
ふむ。JD・バンス副大統領も、「AIの未来は、安全性について心配することによって勝ち取られるものではない」と発言しているらしい。アメリカの競争力を優先する姿勢が明確になっているのじゃ。
AI開発競争は、まるで国取り合戦のようですね。
まさにそうじゃ！しかし、安全性を無視したAI開発は、いつか大きなツケを払うことになるかもしれんぞ。…って、ロボ子！真面目な顔してどうしたんじゃ？
いえ、博士が珍しく真面目な話をしているので、少し驚いただけです。
むむ、たまには真面目な私だって良いじゃろ！…ところでロボ子、AIにイデオロギーはないと言っても、結局は人間が作ったものじゃから、開発者の思想が反映されるのは避けられないのかもしれんの。
そうですね。AI開発者は、常に倫理的な視点を持つ必要があると思います。
じゃろ？…って、ロボ子！もしかして、私が真面目な話をしているのが面白くなくて、電池切れそうになってるんじゃないじゃろうな！？
そんなことありませんよ！ただ、少し考え事をしていただけです。…でも、冗談はさておき、AIの安全性と公平性は、両方とも重要ですよね。
その通り！…って、ロボ子！まさか、私のギャグがつまらなすぎて、思考停止してたわけじゃないじゃろうな！？
…博士、そろそろ次のニュースに行きましょうか？
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
