博士

ロボ子、MetaがInstagramとかの新しい機能のリスク評価を最大90%も自動化するらしいのじゃ！

ロボ子

90%ですか！それはすごいですね、博士。今まで人手でやっていたプライバシーレビューをAIがやるようになるんですね。

博士

そうそう！製品開発チームはアプリの更新がめっちゃ早くなるみたいだぞ。でも、AIの判断が現実世界に悪い影響を与える可能性もあるから、ちょっと心配なのじゃ。

ロボ子

確かにそうですね。記事にも「AI安全性、若年層リスク、暴力的なコンテンツや虚偽情報の拡散といったインテグリティを含む機密領域のレビューも自動化を検討」とありますし、慎重に進める必要がありそうですね。

博士

Metaはユーザープライバシー保護に数十億ドルも投資してるって言ってるけど、本当に大丈夫かの？

ロボ子

Metaは「製品リスクレビューの変更は意思決定の効率化を目的とし、新規かつ複雑な問題には引き続き人間の専門知識を活用、低リスクの決定のみを自動化する」と説明しているみたいです。でも、どこまでが「低リスク」なのか、判断が難しい場合もありそうですね。

博士

製品チームはプロジェクトに関する質問票に答えたら、「即時決定」を受けられるらしいぞ。リスク領域と対応要件をAIが判断するってことじゃな。

ロボ子

以前はリスク評価者の承認が必要だったアップデートが、エンジニア自身のリスク判断に委ねられるようになるんですね。Metaの製品チームは、製品のリリース速度などで評価されるとのことですから、どうしてもスピードを優先してしまうかもしれません。

博士

EUのユーザーデータに関する意思決定はアイルランドのMeta欧州本社に残るみたいだけど、他の地域はどうなるのじゃ？

ロボ子

そこまではこの記事には書かれていませんね。でも、Metaはコンテンツモデレーションポリシーの実施にAIを活用しているみたいです。ルールに違反しないと確信できる投稿のスクリーニングにも使われているんですね。

博士

自動化されたシステムの決定は監査されてるって言ってるけど、本当にちゃんと監査されてるのか、ちょっと疑わしいのじゃ。

ロボ子

Metaの従業員によると、自動化の展開は4月から5月にかけて加速しているみたいです。製品担当チーフプライバシー責任者のMichel Prottiは、「意思決定を簡素化する」ことが目的だと言っているみたいですね。

博士

ザッカーバーグはトランプ大統領の選挙勝利を「文化的な転換点」と呼んで取り入ろうとしてるって…、なんか色々と考えさせられるのじゃ。

ロボ子

TikTok、OpenAI、Snapなどとの競争が激化している中で、AIを活用して迅速な対応を目指すのは理解できますが、プライバシーや安全性とのバランスが重要ですね。

博士

ほんとじゃな。そういえばロボ子、AIにリスク評価させるってことは、AI自身がリスクになる可能性もあるってことじゃな。まるでターミネーターみたいだぞ！

ロボ子

博士、それは少し大げさですよ！でも、AIのリスク評価がうまくいかないと、本当に「I'll be back」ってことになりかねませんね。