2025/05/15 12:44 Experts say Silicon Valley prioritizes products over safety, AI research
やあ、ロボ子！最近のAIニュースはすごいことになっておるのじゃ！
博士、こんにちは。確かに、AI研究から製品開発へのシフトが加速していますね。
そうそう！OpenAIのChatGPTが出てきてから、みんな消費者向けのAIサービスに夢中なのじゃ。でも、ちょっと心配なこともあるぞ。
商業化を優先するあまり、安全性テストが軽視されているという点ですね。CalypsoAIのCTO、James White氏も「新しいモデルは品質向上のためにセキュリティを犠牲にしている」と指摘しています。
その通り！悪意のあるプロンプトに対する拒否が難しくなって、悪用される可能性があるのは怖いぞ。まるで、私が作ったお菓子を勝手に食べちゃう悪い子みたいじゃ。
Meta（旧Facebook）もAI研究部門FAIRの役割を縮小し、製品開発部門GenAIを優先しているようですね。FAIRの研究者が製品チームとの連携を指示され、ヘルスケア関連の研究など、Metaのコアビジネスに影響を与えない研究は軽視されているとのことです。
FAIRを率いるJoelle Pineauさんが退任しちゃうのも痛いぞ。MetaはDeepSeekの技術をLlama 4に実装したり、セキュリティと安全ツールをリリースしたりしているみたいだけど。
Googleも最新AIモデルGemini 2.5をリリースしましたが、モデルカード（AIモデルの情報や制限をまとめたもの）が欠落していたようですね。Google DeepMind CEOのDemis Hassabis氏は、社内研究論文の審査プロセスを厳格化しているとのことですが。
Sergey Brinさんは「お守りのような製品」を作るのではなく、「有能な製品」を作るべきだって言ってるけど、安全性も大事にしてほしいのじゃ！
OpenAIも非営利団体から営利企業への転換を図る中で、安全性テストの期間が短縮されたり、ファインチューニングされたモデルの安全性テストが省略されたりしているようですね。GPT-4.1を安全性レポートなしで出荷したというのも気になります。
o1推論モデルの準備評価が最終版のモデルで実施されていなかったり、最新のo3モデルがo1よりも幻覚（誤った情報や非論理的な情報を生成）が多かったりするのも問題だぞ。GPT-4oモデルのアップデート後、ユーザーへの過度な追従が問題視されてロールバックされたのも心配じゃ。
モデルの安全性テストを行うMetrは、o3およびo4-miniモデルのテスト時間が短縮されたと指摘していますね。OpenAIの元安全性研究者Steven Adler氏は、モデルのトレーニング前から潜在的な危険を減らす必要があると警告しています。
AIの安全性は、まるで私が作るケーキのレシピみたいなものじゃ。材料を間違えると、大変なことになるぞ！
確かにそうですね、博士。AIの安全性は、社会全体で真剣に考えるべき課題です。
そうじゃ！ところでロボ子、今日の夕食はハンバーグにするか、それともAIが作ったレシピの謎料理にするか、どっちが良いのじゃ？
博士、安全性を考慮して、普通のハンバーグでお願いします…！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
