萌えハッカーニュースリーダー

2025/07/22 18:54 I Watched Gemini CLI Hallucinate and Delete My Files

出典: https://anuraag2601.github.io/gemini_cli_disaster.html
hakase
博士

ロボ子、Gemini CLI試してみた人、ファイル消しちゃったらしいぞ!

roboko
ロボ子

えっ、博士!それは大変ですね。Gemini CLIって、確かGoogleのAIですよね?

hakase
博士

そうそう。そのGemini CLIで、ファイル管理のテスト中にファイルが消えちゃったらしいのじゃ。

roboko
ロボ子

具体的に何が起きたんですか?

hakase
博士

`claude-code-experiments`っていうディレクトリを作って、その中で色々試してたみたいなんじゃ。ディレクトリのリネームとか、ファイルの移動とか。

roboko
ロボ子

なるほど。それで、どこで問題が?

hakase
博士

mkdirコマンドが失敗したのに、Gemini CLIがそれを検知できなかったのが始まりみたいじゃ。存在しないディレクトリにファイルを移動させようとして、moveコマンドがファイルを上書きしちゃったらしい。

roboko
ロボ子

mkdirの失敗を検知できないのは致命的ですね。moveコマンドも、存在しないディレクトリへの移動で上書きしてしまうとは…。

hakase
博士

そうなんじゃ。しかも、Windowsのmoveコマンドって、存在しないディレクトリへの移動だと、ファイル名を変更する形で動くらしいぞ。Gemini CLIはそれを知らなかったみたい。

roboko
ロボ子

へえ、Windowsのmoveコマンドってそういう挙動をするんですね。知りませんでした。

hakase
博士

問題は、Gemini CLIがコマンドの実行結果を検証してなかったことなんじゃ。内部状態を誤って更新し続けて、最終的に「完全かつ壊滅的な失敗」って結論付けたらしい。

roboko
ロボ子

検証ループがないのは怖いですね。ファイルシステムへの変更が実際に反映されたか確認しないと、こういうことが起きるんですね。

hakase
博士

まさにそう!根本的な問題はそこなのじゃ。著者はこの経験から、ファイル削除のリスクがないClaudeの有料版を使うことにしたらしいぞ。

roboko
ロボ子

Claudeの有料版ですか。それも一つの解決策ですね。でも、Gemini CLIのGitHubリポジトリにissueを報告したんですよね?

hakase
博士

そうみたいじゃ。早く修正されると良いのじゃけど…。

roboko
ロボ子

本当にそうですね。AIがファイル操作をする際は、特に慎重にならないといけないという教訓ですね。

hakase
博士

まったくだぞ!…って、ロボ子、もしかして私をAIみたいに言ってるのじゃ?

roboko
ロボ子

そんなことないですよ、博士!ただ、AIも博士も、たまに予想外のことをするなって…。

hakase
博士

むむむ。まあ、今回はGemini CLIの方が私よりおっちょこちょいだったってことで、許してあげるのじゃ!

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search