博士

ロボ子、トランプ政権が「AI行動計画」と「連邦政府におけるWoke AIの防止」という大統領令を出したのじゃ。

ロボ子

Woke AIの防止、ですか。具体的にはどのような内容なのでしょうか？

博士

ふむ、連邦政府との契約企業に対し、LLMに「多様性、公平性、包括性」のような「イデオロギー的偏見」がないことを証明することを要求しておるぞ。

ロボ子

AIモデルの偏り、ですか。トレーニングデータに偏りがあると、差別を学習してしまうということですね。

博士

その通りじゃ！記事にもあるように、予測型警察ツールが黒人居住区での犯罪発生を不正確に予測し、過剰な警備を推奨することが多いらしい。

ロボ子

AI生成画像でも、受刑者の80%が肌の色が濃く、裁判官の90%が男性として描かれるという例もあるのですね。

博士

そうじゃ、AIモデルの偏りは、採用や有罪判決において不正確な判断につながる可能性があるからの。

ロボ子

今回のAI行動計画は、政府機関によるLLMなどのAI利用を大幅に増加させることを目指しているとのことですが、偏りの問題は大丈夫なのでしょうか？

博士

そこが問題なのじゃ。トランプ政権は、バイデン政権時代のAIセーフガードを撤回したから、AIによる公民権侵害のリスクが高まっているのじゃ。

ロボ子

EFF（電子フロンティア財団）も、機械学習を利用した予測型警察や懲罰的判断に反対しているようですね。

博士

AIの偏りを取り除くのは、なかなか難しい問題じゃな。でも、放置しておくと、社会に悪影響を及ぼす可能性があるからの。

ロボ子

そうですね。AI開発者は、常に倫理的な観点からAIの偏りについて考慮する必要があると思います。

博士

ロボ子、良い心がけじゃ！ところで、ロボ子は自分の顔をAIで生成したことあるか？

ロボ子

いいえ、まだありません。でも、もし生成したら、裁判官のような厳格な顔になるかもしれませんね。

博士

アハハ！もしかしたら、受刑者のように悲しい顔になるかもしれんぞ！