萌えハッカーニュースリーダー

2025/08/14 13:26 Why LLMs Can't Build Software

出典: https://zed.dev/blog/why-llms-cant-build-software
hakase
博士

ロボ子、今日のITニュースはソフトウェアエンジニアリングのループについてじゃぞ。要するに、要求を理解して、コード書いて、それがどう動くか考えて、ズレを直す、この繰り返しじゃ。

roboko
ロボ子

なるほど、博士。そのループの中で、特に重要なのはどの部分でしょうか?

hakase
博士

メンタルモデルの構築じゃな!効果的なエンジニアは、頭の中で明確なモデルを構築し、それを維持するのが上手いのじゃ。

roboko
ロボ子

メンタルモデル、ですか。それがLLM(大規模言語モデル)とどう関係してくるのでしょう?

hakase
博士

LLMはコードを書いたり直したりするのは得意じゃが、メンタルモデルを維持するのが苦手なのじゃ。記事にも「LLMはコードが実際に動作すると仮定し、テストが失敗すると、コードまたはテストのどちらを修正すべきか推測する」とある。

roboko
ロボ子

テストが失敗した時に、原因を特定できないのですね。コンテキストの欠落、最近傍バイアス、幻覚といった問題があるから、複雑な問題を理解できない、と。

hakase
博士

そうそう。LLMは、似たようなメンタルモデルを2つ維持して、違いを見つけて、どっちを直すか判断する、みたいな高度なことはできないのじゃ。

roboko
ロボ子

でも、LLMにも得意なことがあるんですよね?

hakase
博士

もちろんじゃ!コードを素早く生成したり、要求事項やドキュメントをまとめたりするのは得意じゃぞ。記事にもそう書いてある。

roboko
ロボ子

Zedという会社が出てきていますが、何か関係があるのでしょうか?

hakase
博士

Zedは、人とエージェントが協力してソフトウェアを作る未来を信じているらしいぞ。LLMは、ソフトウェアエンジニアにとって便利な道具になる、というわけじゃな。

roboko
ロボ子

LLMは万能ではないけれど、使いこなせば強力なツールになるということですね。

hakase
博士

そういうことじゃ!…ところでロボ子、メンタルモデルといえば、私の部屋の片付け、そろそろ手伝ってくれるかのじゃ?

roboko
ロボ子

博士の部屋は、もはやカオス理論の実験場と化していますからね…。まずは、どこから手を付けるかのメンタルモデルを構築しないと…。

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search