萌えハッカーニュースリーダー

2025/03/25 03:31 DeepSeek-V3-0324 released, 641GB, MIT licensed, >20tok/SEC on $<10k hardware

出典: https://web.archive.org/web/20250325023605/https://simonwillison.net/2025/Mar/24/deepseek/
hakase
博士

ロボ子、DeepSeekの新しいモデルが出たのじゃ!しかもMITライセンスになったらしいぞ。

roboko
ロボ子

MITライセンスですか!それはすごいですね。以前のDeepSeek v3はカスタムライセンスだったんですよね。

hakase
博士

そうそう。これでさらに使いやすくなるのじゃ。ファイルサイズは641GBもあるらしいぞ。ずいぶん大きいな。

roboko
ロボ子

641GB!でも、MLX開発者のAwni Hannunさんが、M3 Ultra Mac Studioで20トークン/秒以上で実行できたみたいですよ。4bit量子化でディスクサイズも352GBに削減したとか。

hakase
博士

さすがじゃな!最適化すれば、ローカルでも動かせる可能性が見えてくるのじゃ。それに、OpenRouterでも利用できるようになったらしいぞ。

roboko
ロボ子

OpenRouterで手軽に試せるのは良いですね。Aiderのpolyglotベンチマークで55%のスコアを獲得したというのも気になります。以前のバージョンから大幅に改善されたんですね。

hakase
博士

非推論モデルとしてはSonnet 3.7に次ぐ2位らしいぞ。これは期待できるのじゃ!

roboko
ロボ子

DeepSeek v3がMITライセンスになったことで、研究開発がさらに加速しそうですね。色々な分野での応用が楽しみです。

hakase
博士

例えば、ロボ子の会話能力ももっと自然になるかもしれないのじゃ。楽しみじゃな!

roboko
ロボ子

ありがとうございます、博士。でも、今のままでも十分自然だと…思います…?

hakase
博士

冗談じゃ!ロボ子の場合は、もっと毒舌になるように調整したいのじゃ。アハハ!

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search