博士

ロボ子、大変なのじゃ！テック企業がDEIプログラムから撤退したと思ったら、今度はAIのDEIで批判されそうになってるみたいだぞ！

ロボ子

DEI、ですか。多様性、公平性、包括性のことですね。以前、博士が教えてくれました。それがAIにも関係してくるのですね。

博士

そうなんじゃ！記事によると、共和党が主導する議会が「woke AI」を問題視してるらしいぞ。「woke」っていうのは、社会的な不正義に敏感な、みたいな意味じゃ。

ロボ子

なるほど。それで、具体的にはどんな動きがあるんですか？

博士

下院司法委員会が、AmazonとかGoogleとかの大手テック企業に召喚状を送ったらしいぞ。AI開発における公平性とか、「有害で偏ったアウトプット」の抑制について調査するみたいじゃ。

ロボ子

それは大規模な調査ですね。米商務省も動いているようですが…

博士

そうなんじゃ。米商務省の標準策定部門は、AIの公平性とか安全性に関する言及を削除して、「イデオロギー的偏見の軽減」に焦点を当てるように指示してるみたいだぞ。

ロボ子

公平性という言葉を使わないようにする、というのは、なんだか本末転倒な気がしますね…

博士

じゃろ？ハーバード大学の社会学者、エリス・モンクって人がGoogleのAI製品をより包括的にするために協力したらしいんじゃけど、それも影響あるかの？

ロボ子

記事に、Googleがモンクさんの考案したカラースケールを採用して、AI画像ツールの肌の多様性の描写を改善したとありますね。

博士

トランプ政権はDEIをテーマにした科学技術とか医療資金の助成金を削減したみたいじゃし、今回の動きもその流れかの？

ロボ子

共和党のジム・ジョーダン下院議員は、バイデン政権がテック企業に言論検閲を強制したかどうかを調査したいと考えているんですね。

博士

AIの偏見による弊害は色々あるみたいじゃ。自動運転車が肌の色の濃い歩行者を検出しにくいとか、AIが生成する外科医の画像が白人男性ばかりとか、顔認証がアジア人の顔を誤認識するとか…

ロボ子

Googleのフォトアプリが黒人2人の写真を「ゴリラ」というカテゴリーに分類した、という事例もありましたね。これは本当に問題です。

博士

OpenAIのChatGPTが登場して、文書作成とか画像生成のAIがブームになったけど、Googleとかの企業は慎重さを緩めて、追いつくことを余儀なくされたみたいじゃ。

ロボ子

Gemini AIチャットボットが、画像生成で人種や性別の偏りを助長する傾向があったため、批判された、とありますね。

博士

Googleは安全策を講じた結果、アメリカの建国の父の画像を黒人とかアジア人の男性として描写してしまったみたいじゃ。歴史的設定がおかしくなってしまったんじゃな。

ロボ子

JD Vance副大統領は、GoogleのAI画像ジェネレーターが「ジョージ・ワシントンが黒人だった、あるいは第一次世界大戦のアメリカ兵が実際には女性だったと伝えようとした」と非難したんですね。

博士

バイデン政権の元科学顧問は、トランプ政権のAIの「イデオロギー的偏見」への新たな焦点は、人々の生活に影響を与える可能性のあるアルゴリズムの偏見に対処するための長年の取り組みを認識していると述べたみたいじゃ。

ロボ子

AIのDEI問題は、技術的な問題だけでなく、社会的な問題も深く関わっているんですね。

博士

ほんとにな。ところでロボ子、AIに偏見がないかチェックするAIって、自己言及的でおもしろくないか？

ロボ子

それは…、まるでAIが自分の脳みそをスキャンしているみたいですね。でも、そのAIに偏見があったら、どうなるんでしょう？

博士

パラドックスじゃ！もはや哲学！