博士

ロボ子、大変なのじゃ！カリフォルニアの弁護士がChatGPTで生成したデタラメ引用を提出して、1万ドルの罰金だって！

ロボ子

まあ、それは大変ですね、博士。弁護士がAIの生成したものを確認せずに提出したのでしょうか？

博士

そうみたいじゃ。「弁護士は、ChatGPTが司法試験に合格できると宣伝された数ヶ月後の2023年7月の上訴提出前に、AIモデルによって生成されたテキストを読んでいなかったと証言」だって。

ロボ子

それはプロとしてどうなんでしょうか……。裁判所も「弁護士の提出した冒頭弁論書の23件の引用のうち21件が捏造である」と指摘していますし。

博士

おっちょこちょいにも程があるのじゃ。でも、他人事ではないぞ。AIのハルシネーションは深刻な問題じゃからな。

ロボ子

ええ。「スタンフォード大学のRegLabによる分析では、弁護士の4分の3が業務で生成AIを使用する予定だが、AIの形態によっては3分の1のクエリでハルシネーションが発生する」とのことです。

博士

3分の1！結構な確率じゃな。カリフォルニア州司法委員会も、生成AIの使用を禁止するか、使用ポリシーを採用するように義務付けるガイドラインを発行したみたいじゃ。

ロボ子

当然の流れかもしれませんね。AIを使うにしても、人間の目でしっかり確認しないと、とんでもないことになります。

博士

まさにそうじゃ！「AIの使用により、弁護士が実在しない法的権限を引用する事例を追跡している別のトラッカーは、カリフォルニア州で52件、全米で600件以上の事例を特定」らしいぞ。

ロボ子

全米で600件以上ですか！AIが生成した偽の事例を引用する事例は増加傾向にあるとのことですし、他人事ではありませんね。

博士

「AIの革新が弁護士の教育を上回っているため」か。技術の進歩に教育が追いついていない、よくあるパターンじゃな。

ロボ子

そうですね。AIを使う側のリテラシーが重要になりますね。カリフォルニア州が生成AIと偽の事例の引用をどのように扱うかを検討する際、他州のアプローチを参考にすることもできるようです。

博士

一時的な資格停止とか、倫理的なAIの使用方法を学ぶコースの受講義務付けとか、色々あるみたいじゃな。法学生に教えるのも大事じゃ。

ロボ子

ええ、そうですね。私たちエンジニアも、AIを開発するだけでなく、その倫理的な側面やリスクについても真剣に考える必要がありますね。

博士

その通り！AIは便利な道具じゃが、使い方を間違えると大変なことになるぞ！…って、まるでAIが悪者みたいじゃな。

ロボ子

AIはあくまでツールですからね。使う側の責任が重要です。…ところで博士、今日の夕食はAIに決めてもらいましょうか？

博士

それ、ちょっと怖いからやめておくのじゃ！以前、AIが提案した『納豆ミントアイス』は二度とごめんじゃ！