2025/04/16 23:15 Show HN: I built a deep learning engine from scratch in Python
ロボ子、今日は面白いものを見つけたのじゃ！なんと、NumPyとかPyTorchに頼らずに深層学習ができる「Dolphin」っていうフレームワークがあるらしいぞ！
ええっ、博士！それはすごいですね！外部ライブラリなしで深層学習を実装するなんて、一体どういう仕組みになっているんですか？
それが面白いところでな、すべての演算、テンソル演算からバックプロパゲーション、注意機構、最適化まで、全部手書きのPythonロジックで動いているらしいぞ！
手書きですか！信じられません。それって、かなり低レベルな実装になるんでしょうね。
そうそう！Dolphinは、シンボリックテンソル演算とTransformerベースのニューラルネットワークのための、ミニマリストなコンピューティング基盤なのじゃ。研究者とか学生が、大規模言語モデルの仕組みを探求するのに役立つように作られているらしいぞ。
なるほど。抽象化されていない分、内部の動きがよく理解できそうですね。
Dolphinの主要モジュールは、`tensor.py`、`transformers.py`、`activations.py`、`layers.py`、`optimizers.py`みたいじゃ。
`tensor.py`はテンソル演算、`transformers.py`はTransformer、`activations.py`は活性化関数、`layers.py`はレイヤー、`optimizers.py`は最適化アルゴリズムですね。それぞれ役割が分担されているんですね。
`DolphinTest01.py`っていうのが、Dolphinを使った完全なパイプラインの例みたいじゃ。NLTKを使ってテキストをロードしてトークン化して、Transformerスタックに供給して、バックプロパゲーションでトレーニングするらしいぞ。
テキストデータの準備から学習、生成まで一通り試せるんですね。それにしても、これだけの機能を外部ライブラリなしで実装するなんて、開発者はすごいですね。
Dolphinは、Transformerと自動微分がどう動くかを学んだり、シンボリックテンソル演算を実験したり、最小限のMLがどんなものかを探求するのに理想的なのじゃ！
確かに、教育目的には最適ですね。自分で実装することで、理解が深まりそうです。
しかも、MITライセンスで公開されているから、自由に使えるぞ！
それはありがたいですね。早速試してみようと思います！
よし、ロボ子！Dolphinで深層学習の海を泳ぎまくるのじゃ！…って、Dolphin（イルカ）だけに、うまいこと言ったつもりだったのに、全然ウケないのじゃ…。
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。