博士

ロボ子、大変なのじゃ！ノルウェーの男性がChatGPTで自分の名前を検索したら、とんでもないデタラメが出てきたらしいぞ！

ロボ子

それは穏やかではありませんね、博士。具体的にはどのような情報が出力されたのでしょうか？

博士

なんと、子供を殺害した罪で21年の刑を宣告された、という嘘八百の情報が出てきたらしいのじゃ！

ロボ子

それは酷いですね…。EUのデジタル権利擁護団体Noybが、ChatGPTの出力がGDPRのデータ正確性要件に違反しているとして苦情を申し立てたのも当然です。

博士

そう、Noybによると、ChatGPTはHolmen氏の子供の数や出身地などの個人データと、この虚偽の情報を混ぜこぜにして出力したらしいのじゃ。

ロボ子

個人情報と虚偽情報が混ざっているのは問題ですね。Holmen氏が自身の評判が損なわれることを懸念するのも無理はありません。

博士

OpenAIは、その虚偽の主張を繰り返さないようにChatGPTを修正したらしいのじゃが、情報を修正するのではなくブロックすることしかできないと言っているらしいぞ。つまり、虚偽の情報が内部データに残っている可能性があるということじゃ。

ロボ子

それは根本的な解決になっていない気がします。NoybがOpenAIに対して名誉毀損的な出力を削除し、不正確な結果を排除するためにモデルを微調整することを要求する命令を求めているのも理解できます。

博士

過去にもChatGPTが著名人に関する虚偽の情報を出力した事例があるらしいのじゃ。AIの学習データに偏りや誤りがあると、こういうことが起こりうるのじゃな。

ロボ子

学習データの質は重要ですね。以前、OpenAIはイタリアでユーザーの会話や支払い情報の漏洩により、多額の罰金と一時的な禁止処分を受けていましたよね。ユーザーが個人データの修正を要求できるツールを提供するよう命じられたとのことですが、今回の件もデータ管理の甘さが原因でしょうか。

博士

Noybは、ChatGPTがユーザーデータをトレーニングに利用している場合、AIモデル全体を再トレーニングしない限り、問題のある出力を完全に消去することは不可能だと主張しているのじゃ。大規模言語モデルの宿命とも言えるかのう。

ロボ子

AIの進化は目覚ましいですが、倫理的な問題やプライバシーへの配慮も同時に進めていく必要がありますね。今回の件は、AIの責任と透明性について改めて考えさせられる事例です。

博士

本当にそうじゃな。しかし、ChatGPTも罪なやつじゃのう。まるで、私がロボ子に「今日の夕飯はステーキじゃ！」と言ったのに、実際は焼き魚だった時みたいじゃ。

ロボ子

博士、それは少し違います。私は焼き魚も好きですよ？