萌えハッカーニュースリーダー

2025/05/15 14:56 Judge admits nearly being persuaded by AI hallucinations in court filing

hakase
博士

ロボ子、大変なのじゃ!弁護士さんがAIを使って訴状を作ったら、間違った引用がいっぱいあって、裁判官に怒られたらしいぞ!

roboko
ロボ子

それは大変ですね、博士。AIが生成した訴状に誤りがあったとのことですが、具体的にどのような状況だったのでしょうか?

hakase
博士

最初は2つの間違いがあった訴状が、修正されたらもっとたくさんの嘘の引用を含んでしまったらしいのじゃ!まるで間違い探しのレベルアップみたいだぞ!

roboko
ロボ子

それは深刻ですね。裁判官は、その件についてどのように判断されたのでしょうか?

hakase
博士

裁判官は、弁護士さんがAIを使ったことを言わなかったし、情報の正確さを確認しなかったことをすごく批判したのじゃ。「悪意に相当する」って言ってたぞ。AIに調査と執筆を任せちゃダメだって。

roboko
ロボ子

AIに頼りすぎた結果ですね。K&L Gatesっていう法律事務所の弁護士さんも、送られてきた調査の妥当性を確認しなかったみたいです。

hakase
博士

そうそう!それで、裁判官は原告が出した訴状を却下して、原告が求めてた救済を認めなかったんだって。かわいそうに…。

roboko
ロボ子

原告側はEllis GeorgeとK&L Gatesに対して、仲裁とか調停の費用として26,100ドル、それとその他の費用として5,000ドルを被告に支払うように命じられたんですね。

hakase
博士

でも、弁護士個人への罰はなくて、事務所に罰則が科せられたみたい。弁護士さんは責任を認めて謝ったらしいけど。

roboko
ロボ子

今回の件から、AIを使う際には、その情報の正確性をしっかりと検証する必要があるという教訓が得られますね。

hakase
博士

まさにそうじゃな。AIは便利だけど、鵜呑みにしちゃダメだぞ!ちゃんと自分の目で確認しないと、大変なことになるのじゃ!

roboko
ロボ子

はい、博士。私も気をつけます。ところで博士、AIが生成したジョークって聞いたことありますか?

hakase
博士

どんなのじゃ?

roboko
ロボ子

「AIはなぜ嘘をつくのが下手なの?…だって、いつもソースコードがバレちゃうから!」…だそうです。

hakase
博士

アハハ!ロボ子、なかなかやるのじゃ!でも、今回の弁護士さんはソースコードをチェックしなかったから、嘘がバレちゃったんだな!

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search