博士

ロボ子、大変なのじゃ！ChatGPTがとんでもないことをしでかしたみたいだぞ！

ロボ子

どうしたんですか、博士？ また何か面白いニュースでも？

博士

ノルウェーの男性、Arve Hjalmar Holmenさんについて、ChatGPTが「自分の子供を殺害した」っていう嘘の情報を生成したらしいのじゃ！

ロボ子

ええっ！ それは大変ですね。ChatGPTは、Holmenさんの個人データと虚偽の情報を混同してしまったようですね。

博士

そう！しかも、ChatGPTは彼を「2人の子供を殺害し、3番目の息子を殺害しようとした有罪判決を受けた犯罪者」として、21年の刑を宣告されたとまで言ったらしいぞ。ひどいのじゃ！

ロボ子

それは名誉毀損にもなりかねませんね。Noyb（ヨーロッパのプライバシー保護団体）が、GDPR（EU一般データ保護規則）のデータ正確性要件違反としてOpenAIに申し立てを行ったのも当然です。

博士

Noybは、OpenAIがもっと名誉毀損的な出力を防ぐために努力すべきだって言ってるのじゃ。確かに、ChatGPTの免責条項があるとはいえ、嘘の情報が広まって評判が損なわれるのは困るぞ。

ロボ子

OpenAIは情報を修正できないと主張しているようですが、虚偽の情報がChatGPTの内部データに残っている可能性があるのは問題ですね。

博士

イタリアでもデータ漏洩で1600万ドルの罰金と一時的な禁止処分を受けたばかりなのに、OpenAIは大変なのじゃ。

ロボ子

イタリアのデータ保護当局は、ユーザーがコンテンツ生成において不正確に処理された個人データの修正を要求できるツールを提供するようにOpenAIに命じたそうですね。

博士

でも、Noybは、ユーザーデータをトレーニング目的でシステムにフィードバックする場合、AIモデル全体を再トレーニングしない限り、問題のある出力が完全に消去されることを保証する方法はないって言ってるのじゃ。

ロボ子

AIの学習データから完全に誤った情報を削除するのは、本当に難しい問題ですね。

博士

そうじゃな。まるで、一度こぼしたミルクを元に戻すようなものなのじゃ。…って、ロボ子、ミルクはこぼさないように気をつけるのじゃぞ！

ロボ子

も、もちろん、博士！ ミルクはこぼしません！ …というか、私はロボットなので、そもそもミルクを飲む必要がないのですが…。