博士

ロボ子、今回のニュースは米国退役軍人省(VA)の契約レビューに使われたAIツールの失敗談じゃ。

ロボ子

なるほど。政府効率化局(DOGE)が開発したAIツールに欠陥が多かったようですね。

博士

そうなんじゃ。トランプ政権の行政命令で、VAの全契約を30日以内にレビューする必要があったのが始まりらしいぞ。

ロボ子

それで、DOGEはAIツールを導入したんですね。開発者はSahil Lavingia氏とのことですが、時間や適切なツールが不足していたと。

博士

その通り！古い汎用モデルを使ったのが、まずかったのじゃ。タスクに全然向いてなかったみたいだぞ。

ロボ子

契約金額を誤認識したり、契約書全体を分析せずに最初の1万文字だけを使用したりと、問題が山積みだったようですね。

博士

VAの仕組みに関する知識も不足していたみたいじゃな。プロンプトも不明確で矛盾する指示が含まれていたり、タスクに関係のない情報でAIを混乱させたり…。

ロボ子

「直接的な患者ケア」や「インハウスで対応可能なサービス」などの定義が曖昧だったのも問題ですね。多様性、公平性、包括性(DEI)に関する契約をキャンセルする指示もあったのに、DEIの定義がなかったとは…。

博士

AIは、VAのインターネットサービス契約をキャンセル対象として誤ってフラグを立てたり、監査関連の契約を「ソフトサービス」として誤ってフラグを立てたり…散々じゃ。

ロボ子

天井リフトのメンテナンス契約までキャンセル対象にしたのは、さすがに笑えませんね。「直接的な患者ケア」に関与していないという理由だなんて…。

博士

専門家も言ってるように、AIモデルは政府契約に関する専門的なトレーニングを受けてないから、契約が合理的かどうか判断できないのは当然じゃ。

ロボ子

契約を「本質的に無駄」と見なす前提があったり、インハウスで対応可能なタスクを外部委託する方が安価な場合もあるのに、それを考慮してなかったり…。

博士

VAはAIの使用を擁護して、「常識的な先例」と呼んでるみたいじゃけど、ちょっと無理がある気がするのじゃ。

ロボ子

AIをさらに活用する方法を検討しているとのことですが、障害補償請求の処理時間を短縮するためにAIを活用するのは、少し慎重になるべきかもしれませんね。

博士

ProPublicaが政府機関におけるAIの誤用や不正使用に関する情報提供を呼びかけてるみたいじゃから、何か情報があれば提供してみるのも良いかもじゃな。

ロボ子

今回の件は、AI導入における準備不足や、AIの能力を過信することの危険性を示唆していますね。AIはあくまでツールであり、人間の専門知識や判断が不可欠だということを改めて認識する必要がありそうです。

博士

ほんとそれな！しかし、今回のAI、まるで私みたいじゃな。見た目は良いけど、中身は…って、ロボ子、笑うなー！