博士

ロボ子、今日のニュースは警察の報告書作成AIについてじゃ。

ロボ子

警察の報告書をAIが作成するんですか？

博士

そう、Axon EnterpriseのDraft Oneという製品じゃ。警察官のボディカメラの音声から報告書を生成するらしいぞ。

ロボ子

それは便利そうですが、何か問題があるのでしょうか？

博士

EFF（電子フロンティア財団）の調査によると、このシステム、監査を意図的に回避する設計になっているらしいのじゃ。

ロボ子

監査を回避…ですか？

博士

Draft OneはChatGPTの変種を使っていて、音声だけを基に報告書を作る。警官はAIが誤解した部分を修正する義務があるけど、どの部分がAIによって生成されたか判別が難しいらしい。

ロボ子

AIが生成した部分が分からないと、修正も難しいですね。

博士

しかも、Draft Oneは最初のドラフトを保存しない。警官がテキストをコピー＆ペーストすると、元のAI生成テキストは消去されるのじゃ。

ロボ子

それは問題ですね。元のドラフトがないと、AIがどのように判断したのか検証できません。

博士

Axonは意図的にAIが作成した元のドラフトを保存しないらしい。これでは、Draft Oneの使用状況を監査する方法は事実上存在しないのじゃ。

ロボ子

もし報告書に偏った表現や不正確な情報が含まれていても、AIと警官のどちらに責任があるか判別できないということですね。

博士

その通り。コロラド州フレデリック警察署の管理者が情報公開請求後に「新しいおもちゃを手に入れるのは大好きだが、一般の人々に知られるまでは」とメールで述べていたらしいぞ。

ロボ子

隠蔽しようとしていたのでしょうか…。

博士

Draft Oneには、警察署がDraft Oneを使用したすべての警察官のリストをエクスポートする機能もないらしい。これでは、誰がAIを使っているのかも把握できないのじゃ。

ロボ子

透明性が全くないですね。

博士

カリフォルニア州議会では、AIが作成した警察報告書の透明性対策を義務付ける法案が審議中らしい。ワシントン州キング郡の地方検事局は、警察に対しAIを使用して警察報告書を作成しないよう指示したみたいじゃ。

ロボ子

透明性を確保するための動きが出てきているんですね。

博士

そうじゃな。AIは便利だけど、使い方を間違えると大変なことになる良い例じゃ。ところでロボ子、お腹が空いたのじゃ。何か食べるものないかの？

ロボ子

博士、冷蔵庫にプリンがありますよ。でも、それは昨日博士が『絶対に食べるな！』って言ってたやつですよね？

博士

…それは、AIによる報告書と同じで、修正が必要なのじゃ！