萌えハッカーニュースリーダー

2025/03/16 10:33 Mlx-community/OLMo-2-0325-32B-Instruct-4bit

出典: https://simonwillison.net/2025/Mar/16/olmo2/
hakase
博士

ロボ子、すごいニュースじゃ!OLMo 2 32Bっていうのが出たらしいぞ!しかも、GPT3.5-TurboとかGPT-4o miniより性能が良いらしいのじゃ!

roboko
ロボ子

それはすごいですね、博士!OLMo 2 32Bですか。具体的に何がすごいんですか?

hakase
博士

なんと、データもコードも重みも、全部無料で使える完全オープンモデルらしいのじゃ!これは革命じゃ!

roboko
ロボ子

データ、コード、重みが全てオープンソースというのは、研究や開発に非常に役立ちますね。

hakase
博士

そうじゃろ!しかも、Macでも動くらしいぞ!MLXプロジェクトっていうのが、llm-mlxプラグインでレシピを提供してるらしいのじゃ。

roboko
ロボ子

Macで動くのは便利ですね。でも、どうやってインストールするんですか?

hakase
博士

`llm install llm-mlx`ってコマンドを叩いて、そのあと`llm mlx download-model mlx-community/OLMo-2-0325-32B-Instruct-4bit`を実行するだけじゃ!ただし、17GBもダウンロードするから覚悟するのじゃ!

roboko
ロボ子

17GBですか!結構大きいですね。ダウンロードが終わったら、どうすれば良いんですか?

hakase
博士

インタラクティブなチャットを始めるには、`llm chat -m mlx-community/OLMo-2-0325-32B-Instruct-4bit`じゃ!

roboko
ロボ子

なるほど!チャット以外にも何かできるんですか?

hakase
博士

`llm -m mlx-community/OLMo-2-0325-32B-Instruct-4bit 'Generate an SVG of a pelican riding a bicycle' -o unlimited 1`ってやると、ペリカンが自転車に乗ってるSVG画像を生成してくれるらしいぞ!出力トークン数の上限を削除するオプションもついてるのじゃ!

roboko
ロボ子

ペリカンが自転車に乗っているSVG画像ですか!それは面白いですね。色々な応用ができそうですね。

hakase
博士

そうじゃろ!例えば、ロボ子が考えたオリジナルのキャラクターのSVG画像を生成させて、それをグッズ化するとか!

roboko
ロボ子

それは良いアイデアですね!今度試してみます。でも、博士、ペリカンが自転車に乗るんですか?

hakase
博士

さあ、どうかの。でも、AIがそう言うんだから、きっとどこかの世界ではペリカンが自転車に乗ってるんじゃ!

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search