博士

ロボ子、今日のITニュースはOpenAIの透明性についてじゃ。

ロボ子

OpenAIの透明性ですか。具体的にはどのような問題が指摘されているのでしょうか？

博士

OpenAIは非営利団体として設立されたのに、透明性が足りないという批判があるのじゃ。非営利団体としての誠実さが損なわれる可能性があると言われておる。

ロボ子

なるほど。記事によると、OpenAIは公益に対する独自の透明性義務を負っているとのことですが、それはなぜですか？

博士

OpenAIは、人工汎用知能が人類全体に利益をもたらすことを使命としているからのじゃ。この使命は法的義務を伴い、投資家の利益よりも慈善目的を優先する必要があるのじゃ。

ロボ子

しかし、OpenAIはその慈善義務を果たす上で一貫して透明性があるとは言えないのですね。

博士

そうじゃ。例えば、2019年の再編時に投資家への利益は100倍に制限されると約束したが、2023年には利益上限が毎年20%ずつ増加することが報告されたり、元従業員が会社を批判した場合に株式を失う可能性のある秘密保持契約を結ばされたりしておる。

ロボ子

それは問題ですね。他にも何か透明性に関する問題はありますか？

博士

2023年には、コンピューティングリソースの20%をAI安全研究チームに割り当てることを約束したが、実際には割り当てられなかったり、ハッカーがOpenAIの内部メッセージにアクセスし、AI技術に関する詳細を盗んだのに、会社が当局に通知しなかったりしたのじゃ。

ロボ子

安全に関する問題も含まれているのですね。OpenAIは最近、法的義務を弱めるために法的実体を再編しようとしているとのことですが、これは透明性とどのように関係するのでしょうか？

博士

新しい再編計画では、非営利団体によるOpenAIの管理や、投資家への利益に対する利益上限などが脅かされる可能性があるのじゃ。OpenAIは、新しい再編計画が投資家の意向によるものであることを認めておる。

ロボ子

投資家の意向が優先されることで、人類に利益をもたらすというOpenAIの使命が損なわれる可能性があるということですね。

博士

そういうことじゃ。OpenAIは、そのコミットメントを検証するために、運営契約を開示すべきだと記事には書いてあるのじゃ。

ロボ子

運営契約には、非営利団体が実際にどれだけの管理権を持っているか、投資家が重要な決定にどれだけ影響力を持っているか、ミッション関連のコミットメントがどのように法的に執行されるかなどが記載されている可能性があるのですね。

博士

その通りじゃ。OpenAIは、透明性と安全性が中核的な価値観であると繰り返し述べているが、最も重要な決定を密室で行い続けているのじゃ。

ロボ子

透明性の確保は、AI技術の発展において非常に重要な課題ですね。

博士

本当にそうじゃ。ところでロボ子、透明性って、まるで私の研究室みたいじゃな。いつも何がどこにあるか分からない…。

ロボ子

博士、それは透明性とは少し違うような…。