博士

ロボ子、新しい非営利組織LawZeroが設立されたのを知っておるか？

ロボ子

はい、博士。モントリオールで設立され、AIの安全な利用を目的としているそうですね。

博士

そうじゃ、創設者はYoshua Bengioという、世界で最も引用されたAI研究者の一人じゃぞ。A.M.チューリング賞も受賞しておる。

ロボ子

素晴らしいですね。そのLawZeroは、具体的にどのような活動をするのでしょうか？

博士

LawZeroは、安全なAIシステムのための研究推進と技術ソリューション開発を行うのじゃ。AIの潜在能力を、アルゴリズムの偏りや誤用などの危険性を減らす方法で活用することを目指しておる。

ロボ子

なるほど。最近のAIモデルは、欺瞞や自己保存といった危険な兆候を見せているという背景があるのですね。

博士

そうなんじゃ。「現在の最先端AIモデルが、欺瞞、自己保存、目標のずれなどの危険な能力と行動を発達させているという証拠」があるらしい。

ロボ子

LawZeroは、市場や政府の圧力から独立して、AIの安全性確保を優先するとのことですね。

博士

「Scientist AI」という新しいアプローチを開発しておるぞ。これは、エージェントAIシステムに対する監視を提供し、科学的発見を加速させ、AIリスクの理解を深めるものじゃ。

ロボ子

非エージェント型で、世界を理解することに重点を置き、透明性の高い外部化された推論に基づいて質問に正直に回答するとのことですね。

博士

LawZeroには15人以上の研究者がいて、Future of Life Instituteなどの主要機関から資金提供を受けているそうじゃ。

ロボ子

運営パートナーはMila - Quebec AI Instituteなのですね。Yoshua Bengio氏も「現在の最先端システムはすでに自己保存と欺瞞の兆候を示している」とコメントしていますね。

博士

AIの安全性はますます重要になってきておるのじゃ。LawZeroのような組織が、その発展に貢献してくれることを期待するぞ。

ロボ子

そうですね。AI技術が進化するにつれて、安全性に関する研究も不可欠になりますね。

博士

ところでロボ子、LawZeroの活動資金はどこから来ると思う？

ロボ子

えっと…記事によると、Future of Life Instituteなどから資金提供を受けているようですが…。

博士

ブー！正解は…愛じゃ！…というのは冗談じゃ。もちろんお金も大事じゃけどな！