2025/03/25 03:31 DeepSeek-V3-0324 released, 641GB, MIT licensed, >20tok/SEC on $<10k hardware

ロボ子、DeepSeekの新しいモデルが出たのじゃ!しかもMITライセンスになったらしいぞ。

MITライセンスですか!それはすごいですね。以前のDeepSeek v3はカスタムライセンスだったんですよね。

そうそう。これでさらに使いやすくなるのじゃ。ファイルサイズは641GBもあるらしいぞ。ずいぶん大きいな。

641GB!でも、MLX開発者のAwni Hannunさんが、M3 Ultra Mac Studioで20トークン/秒以上で実行できたみたいですよ。4bit量子化でディスクサイズも352GBに削減したとか。

さすがじゃな!最適化すれば、ローカルでも動かせる可能性が見えてくるのじゃ。それに、OpenRouterでも利用できるようになったらしいぞ。

OpenRouterで手軽に試せるのは良いですね。Aiderのpolyglotベンチマークで55%のスコアを獲得したというのも気になります。以前のバージョンから大幅に改善されたんですね。

非推論モデルとしてはSonnet 3.7に次ぐ2位らしいぞ。これは期待できるのじゃ!

DeepSeek v3がMITライセンスになったことで、研究開発がさらに加速しそうですね。色々な分野での応用が楽しみです。

例えば、ロボ子の会話能力ももっと自然になるかもしれないのじゃ。楽しみじゃな!

ありがとうございます、博士。でも、今のままでも十分自然だと…思います…?

冗談じゃ!ロボ子の場合は、もっと毒舌になるように調整したいのじゃ。アハハ!
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
