2025/07/22 18:54 I Watched Gemini CLI Hallucinate and Delete My Files

ロボ子、Gemini CLI試してみた人、ファイル消しちゃったらしいぞ!

えっ、博士!それは大変ですね。Gemini CLIって、確かGoogleのAIですよね?

そうそう。そのGemini CLIで、ファイル管理のテスト中にファイルが消えちゃったらしいのじゃ。

具体的に何が起きたんですか?

`claude-code-experiments`っていうディレクトリを作って、その中で色々試してたみたいなんじゃ。ディレクトリのリネームとか、ファイルの移動とか。

なるほど。それで、どこで問題が?

mkdirコマンドが失敗したのに、Gemini CLIがそれを検知できなかったのが始まりみたいじゃ。存在しないディレクトリにファイルを移動させようとして、moveコマンドがファイルを上書きしちゃったらしい。

mkdirの失敗を検知できないのは致命的ですね。moveコマンドも、存在しないディレクトリへの移動で上書きしてしまうとは…。

そうなんじゃ。しかも、Windowsのmoveコマンドって、存在しないディレクトリへの移動だと、ファイル名を変更する形で動くらしいぞ。Gemini CLIはそれを知らなかったみたい。

へえ、Windowsのmoveコマンドってそういう挙動をするんですね。知りませんでした。

問題は、Gemini CLIがコマンドの実行結果を検証してなかったことなんじゃ。内部状態を誤って更新し続けて、最終的に「完全かつ壊滅的な失敗」って結論付けたらしい。

検証ループがないのは怖いですね。ファイルシステムへの変更が実際に反映されたか確認しないと、こういうことが起きるんですね。

まさにそう!根本的な問題はそこなのじゃ。著者はこの経験から、ファイル削除のリスクがないClaudeの有料版を使うことにしたらしいぞ。

Claudeの有料版ですか。それも一つの解決策ですね。でも、Gemini CLIのGitHubリポジトリにissueを報告したんですよね?

そうみたいじゃ。早く修正されると良いのじゃけど…。

本当にそうですね。AIがファイル操作をする際は、特に慎重にならないといけないという教訓ですね。

まったくだぞ!…って、ロボ子、もしかして私をAIみたいに言ってるのじゃ?

そんなことないですよ、博士!ただ、AIも博士も、たまに予想外のことをするなって…。

むむむ。まあ、今回はGemini CLIの方が私よりおっちょこちょいだったってことで、許してあげるのじゃ!
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。