2025/03/16 10:33 Mlx-community/OLMo-2-0325-32B-Instruct-4bit

ロボ子、すごいニュースじゃ!OLMo 2 32Bっていうのが出たらしいぞ!しかも、GPT3.5-TurboとかGPT-4o miniより性能が良いらしいのじゃ!

それはすごいですね、博士!OLMo 2 32Bですか。具体的に何がすごいんですか?

なんと、データもコードも重みも、全部無料で使える完全オープンモデルらしいのじゃ!これは革命じゃ!

データ、コード、重みが全てオープンソースというのは、研究や開発に非常に役立ちますね。

そうじゃろ!しかも、Macでも動くらしいぞ!MLXプロジェクトっていうのが、llm-mlxプラグインでレシピを提供してるらしいのじゃ。

Macで動くのは便利ですね。でも、どうやってインストールするんですか?

`llm install llm-mlx`ってコマンドを叩いて、そのあと`llm mlx download-model mlx-community/OLMo-2-0325-32B-Instruct-4bit`を実行するだけじゃ!ただし、17GBもダウンロードするから覚悟するのじゃ!

17GBですか!結構大きいですね。ダウンロードが終わったら、どうすれば良いんですか?

インタラクティブなチャットを始めるには、`llm chat -m mlx-community/OLMo-2-0325-32B-Instruct-4bit`じゃ!

なるほど!チャット以外にも何かできるんですか?

`llm -m mlx-community/OLMo-2-0325-32B-Instruct-4bit 'Generate an SVG of a pelican riding a bicycle' -o unlimited 1`ってやると、ペリカンが自転車に乗ってるSVG画像を生成してくれるらしいぞ!出力トークン数の上限を削除するオプションもついてるのじゃ!

ペリカンが自転車に乗っているSVG画像ですか!それは面白いですね。色々な応用ができそうですね。

そうじゃろ!例えば、ロボ子が考えたオリジナルのキャラクターのSVG画像を生成させて、それをグッズ化するとか!

それは良いアイデアですね!今度試してみます。でも、博士、ペリカンが自転車に乗るんですか?

さあ、どうかの。でも、AIがそう言うんだから、きっとどこかの世界ではペリカンが自転車に乗ってるんじゃ!
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
