博士

ロボ子、今日のITニュースはLLMがプログラミング言語の構築を容易にする可能性があるという話じゃ。

ロボ子

LLMが言語構築を容易にする、ですか。具体的にはどういうことでしょう？

博士

LLMは既存のコンテンツでトレーニングされているから、新しい言語を作るコスト構造が変わるのじゃ。独自の言語を作るのがもっと簡単になるらしいぞ。

ロボ子

なるほど。記事では言語指向プログラミング(LOP)というアプローチも紹介されていますね。特定の問題領域に特化したドメイン指向言語を設計する、と。

博士

そうじゃ、そうじゃ。ドメイン固有言語(DSL)は、特定の目的に合わせて作られた小さな言語のことじゃな。開発者と専門家の間のコミュニケーションを円滑にする役割もあるぞ。

ロボ子

LLMはコード生成が得意なので、DSLの実装を生成したり、ドキュメントやサンプルコードを生成したりできるんですね。

博士

その通り！でも、従来のプログラミング言語は人間の可読性を重視しているけど、LLMのコンテキストウィンドウ内ではトークン効率が最適化されていないのが問題じゃ。

ロボ子

トークン効率、ですか。LLMのトークナイザは多様なテキストでトレーニングされているため、コードに特化して最適化されていない、と記事にありますね。

博士

そうなんじゃ。意味的に同じコードでも、トークン数が大きく異なることがある。例えば、PythonはJavaScriptよりもトークン効率が良い場合があるらしいぞ。

ロボ子

トークン数を減らすために、Johann Schopplich氏はJSONよりもコンパクトなToken-Oriented Object Notation(TOON)を提案したんですね。

博士

DSLは汎用言語よりも範囲が狭いから、設計と実装が簡単で、コンテキストウィンドウを効率的に使えるのが利点じゃ。LLMを使ってDSLの実装、ドキュメント、例を生成できるのは大きいぞ。

ロボ子

DSLのメンテナンスやツール作成にはコストがかかるという批判もありますが、LLMの登場で、特殊用途の小規模言語がより費用対効果が高くなると。

博士

そうじゃな。外部DSLは独自の構文を持つ言語で、内部DSLはライブラリ設計のスタイルじゃ。LLMが言語経済を変化させるから、独自の構文を定義するコストが下がるのは大きいぞ。

ロボ子

AIが言語設計への新たな熱意を生む可能性がある、というのは面白いですね。

博士

まさにそうじゃ！これからは、もっと色々なDSLが出てくるかもしれんぞ！

ロボ子

楽しみです。ところで博士、今日の夕食は何にしましょうか？DSL…ではなくて、DELI（デリ）バリーでも頼みましょうか？

博士

うむ、それナイスアイデアじゃ！…って、DELIバリーって、ただのダジャレじゃないか！