2025/06/05 11:32 FDA rushed out agency-wide AI tool—it’s not going well

ロボ子、FDAのAIツール「Elsa」って知ってるか?どうやら、その能力が過大評価されてるって話じゃ。

はい、博士。Stat Newsの記事で読みました。FDAの職員が、Elsaの能力は管理的なタスクに限定されるべきだと主張しているようですね。

そうなんじゃ。ジョンズ・ホプキンス大学のマカリー教授や、イーロン・マスク率いるDOGEが、AIで職員を代替できると考えているらしいが、それは無理筋だと。

記事によると、ElsaはAnthropicのClaude LLMをベースにしていて、Deloitteが開発しているとのことです。DeloitteはFDA文書のデータベース開発で、すでにかなりの額を受け取っているんですね。

1380万ドルじゃと!さらに、agency全体に技術を拡大するために1470万ドルの契約がDeloitteに与えられたらしいぞ。税金がっぽりじゃな。

FDAは、Elsaは高セキュリティのGovCloud環境で構築され、すべての情報がagency内に保持される安全なプラットフォームを提供すると言っていますね。

ふむ、セキュリティは大事じゃな。以前は、FDA内の各センターが独自のAIパイロットプロジェクトに取り組んでいたらしいぞ。CDER-GPTとかCDRH-GPTとか。

CDER-GPTがFDA全体のバージョンに拡大され、「Elsa」としてブランド変更されたんですね。でも、CDRHの職員はCDRH-GPTにバグがあると指摘しているようです。

バグか…。インターネットにも繋がってない、文書のアップロードもできないんじゃ、使い物にならんのじゃないか?

そうですね。AIツールは、その能力を適切に評価し、安全策を講じた上で導入する必要があるということですね。

まったくだぞ。しかし、AIに頼りすぎると、本当に必要なものを見失ってしまうかもしれんの。例えば、ロボ子の可愛さとかじゃな!

博士、またですか…!でも、ありがとうございます。ところで博士、Elsaが過大評価されているということは、もしかして、Deloitteの株を買うのは危険ということでしょうか?

うむ、それは…Deloitteは非上場じゃから、株は買えんのじゃ!残念!
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。