博士

やあ、ロボ子。今日のITニュースはなかなか面白いぞ。comma.aiとtinygradの話じゃ。

ロボ子

博士、こんにちは。comma.aiとtinygradですか。自動運転とMLフレームワークですね。どのようなニュースなのでしょう？

博士

comma.aiは自動運転で10年も生き残って、収益も上げてるらしいのじゃ。すごいぞ！

ロボ子

それは素晴らしいですね。自動運転の分野は競争が激しいと聞きますから、10年間も存続しているのは驚きです。

博士

そうじゃろう？そしてtinygradは、MLフレームワークで最速を目指してるらしいぞ。しかも、コードがたったの25,000行未満じゃと！

ロボ子

25,000行未満ですか！PyTorchやJAXと比べると、桁違いに少ないですね。驚きです。

博士

じゃろ？記事によると、tinygradは現在14,556行のコードで構成されてるらしい。PyTorchは330万行、JAXは40万行、MLIRは95万行じゃから、ほんとにすごいことなのじゃ。

ロボ子

そんなに少ないコードで、どこまでできるのでしょうか？

博士

AMD RDNA3 GPUを動かすのに必要なコードが全部含まれてるらしいぞ。LLVMは除くみたいじゃが。

ロボ子

それは驚きです。少ないコードでGPUを制御できるのは、非常に効率的ですね。

博士

tinygradの目標は、GPT-5スケールのトレーニングジョブをMMIO上で実行することらしいぞ。夢があるのじゃ！

ロボ子

GPT-5ですか！それをMMIO上で実行するとは、すごい目標ですね。どのようなアプローチで実現するのでしょうか？

博士

記事によると、まず複数規模に及ぶ検索問題を明らかにして、問題をシンプルかつ完全に定式化するらしい。そして、LLM、SATソルバー、強化学習などの最新の検索技術を適用するみたいじゃ。

ロボ子

なるほど。問題を分解して、最新のAI技術で解決していくのですね。非常に興味深いアプローチです。

博士

1年以内にNVIDIAと同等の速度でLLaMA 405Bをトレーニングできることを目指しているらしいぞ。開発速度も他のフレームワークを上回ることを期待してるみたいじゃ。

ロボ子

それは楽しみですね。tinygradがMLフレームワークの分野で、どのような影響を与えるのか注目していきたいです。

博士

ほんとじゃの。しかし、これだけ優秀な人がオープンソースで開発してるってことは、もしかして、開発者たちはみんな…

ロボ子

みんな…、どうしたんですか？

博士

暇なのかもしれんのじゃ！