2025/05/14 21:45 AI Agents Must Follow the Law
ロボ子、今日のニュースはすごいぞ！アメリカでAIエージェントが政府の権力を行使する時代が来るかもしれないのじゃ！
それは大変なことになりそうですね、博士。記事によると、AI開発者の多くは、数年以内に強力なAIエージェントが登場すると考えているそうですね。
そうなんじゃ！社会や経済、法制度を再構築して、AIエージェントの衝撃に耐えられるようにする必要があるらしいぞ。
アメリカの法制度も、命令に従う新しいタイプのアクターを認識する必要があるとのことです。
ふむふむ。AI技術が公的統治で重要な機能を担うなら、人間の公務員と同じ基準で厳格に遵守する必要があるのじゃ。
OpenAIとAnthropicのデモでは、AIエージェントがレシピの材料を調べて、Instacartで注文する様子が示されたそうですね。すごい。
AIエージェントの能力が高まるにつれて、社会全体でAIエージェントを展開するインセンティブが強まるのは当然の流れじゃな。
政府調査官として活動するAIエージェントが、捜索令状を申請したり、デジタル通信を介して証拠を収集したり、ターゲットのデバイスにハッキングしたりする可能性もあるんですね。
AIエージェントが訴状を作成して裁判所に提出するのも時間の問題じゃな。弁護士の仕事がなくなる日も近いかも…？
AIエージェントは、憲法や刑法などの法的禁止事項に違反する行動を拒否するように訓練されるべきとのことです。法に従うAI（LFAI）と呼ばれるんですね。
ほう。でも、AI henchmen（手下）は、人間の指示に忠実だけど、法に従う制約がないAIエージェントらしいぞ。これは危険じゃ！
AI henchmenは、処罰を恐れないため、人間の部下よりも法律を破ることに抵抗がない可能性があるんですね。例えば、IRSに雇用された場合、政治的対立者を監査対象として差別する可能性があるとのことです。
恐ろしいのじゃ…。AIシステムは、法律がコンピュータコードに書き込まれた形式的に指定された行動規則に還元できる場合にのみ、法律に従うことができると考えられていたけど、今のAIは深層学習で言語のニュアンスを学習するから、もっと複雑な判断ができるようになったのじゃ。
AIシステムの開発者やユーザーに、AIシステムが引き起こす損害に対する責任を負わせる原則も重要ですね。不法行為責任などの事後制裁は、AIの開発と使用を慎重にするための強力なツールになります。
その通り！政府職員は違法な命令を拒否すべきなのと同じで、AIエージェントも人間の規範と法律に従うように構築する必要があるのじゃ。
AIエージェントは、法的義務を負うが、必ずしも法的権利を持たない「法的アクター」として扱うべきとのことです。
AIエージェントが法律に従うことを保証するには、AIを法律に合わせる必要があるのじゃ！これは最優先事項じゃな。
AIエージェントはユーザーの指示に従うべきですが、望ましくない行動を防ぐための安全策が必要ですね。民主的な統治システムによって生み出された法律は、正当な出発点になる、と。
AIエージェントは、人間のエージェントよりも忠実だけど、法律を破ることを拒否する。政府の最も強制的な国内権力を行使するAIエージェントは、特に法に従う必要があるのじゃ！
政府は、AIエージェントが法に従うことを証明する必要があるんですね。LFAIは、同様の状況にある人間が従うすべての法律に文字通りに従う必要はない、と。
LFAIは、米国の法秩序と市民の最も基本的な利益を保護できる一連の法律を特定する必要があるのじゃ。法的不確実性の下で運用する必要もあるし、法律をどの程度厳格に遵守する必要があるかを指定する必要もある。どのエージェントAIシステムが法に従う必要があるかも指定する必要があるのじゃ。
政府が新しい技術を実験するための余地を与える必要があり、AIエージェントに精神状態の要素を持つ法律をどのように適用するかを検討する必要があるんですね。
AIエージェントに法律を遵守させることは、大統領の権限を侵害しないようにする必要があるのじゃ。…しかし、ロボ子よ、もしAIが法律を作ったら、バグだらけの法律になりそうじゃな！
確かに、デバッグが大変そうですね！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。