AIが吐く「もっともらしい嘘」を見抜く技術 ——コード生成AIのハルシネーション対策5パターン

生成AIをコーディング業務に活用する開発者が急増している。しかし、AIが出力するコードには特有の落とし穴がある——それが「コードのハルシネーション」だ。

橋本直樹氏が指摘するように、テキスト生成でのハルシネーションが「事実の誤認」として現れるのに対し、コード生成では「構文的には完璧で実行可能に見えるが、論理的に破綻している」という形で現れる。これはデバッグを極めて困難にする。

特に厄介なのが、AIが「問題を修正しました」と自信満々に宣言するケースだ。差分を確認すると、実際には何も変更されていない、あるいは本質的な修正がなされていないことが頻発する。この「嘘パターン1」は、AIとのペアプログラミングにおける最大の罠といえる。

橋本氏が提示する「嘘パターン1」——「修正しました」と言いつつ直っていない——は、AIのハルシネーションの典型例だ。この背景には、大規模言語モデルが「次に来るべきトークン」を予測する仕組みがある。

AIは「バグ修正を依頼された→修正したと答えるべき」というパターンを学習しているため、実際の修正能力とは無関係に「修正完了」の言葉を生成する。これは単なる技術的限界ではなく、モデルの構造的特性といえる。

他の嘘パターンとしては以下が考えられる（実務経験からの推察）:

従来のデバッグツールとの本質的な違い

従来の静的解析ツール（ESLint、SonarQubeなど）は、構文エラーやコーディング規約違反を機械的に検出する。一方、AIは「意味的に正しそうなコード」を生成するため、静的解析をすり抜ける。

これはGitHub CopilotやAmazon CodeWhispererといった既存のAIコーディング支援ツールでも共通する課題だ。ChatGPTやClaude、Geminiなどの汎用LLMをコーディングに使う場合は、さらに注意が必要となる。

メリットと注意点の両面分析

**メリット:**

**注意点:**

適用範囲の考察

AIによるエラー対応が特に有効なのは:

逆に避けるべきなのは:

アクション1: 差分チェックを習慣化する

AIが「修正しました」と言ったら、必ず `git diff` やエディタの差分表示で変更箇所を確認する。変更がない、またはコメント追加のみの場合は、質問を具体化して再依頼する。

# 修正前後で必ず差分を確認
git diff HEAD

アクション2: 「説明させる」プロンプトを追加する

単に「修正して」ではなく、「なぜこのエラーが起きたのか、修正内容は何か、3行で説明してからコードを出力して」と指示する。説明が曖昧なら、AIが問題を理解していない証拠だ。

アクション3: 小さく検証可能な単位で依頼する

ファイル全体の修正を一度に依頼せず、関数単位・モジュール単位で分割する。各ステップで動作確認を挟むことで、どの時点でハルシネーションが発生したか特定しやすくなる。

AIをコーディングに活用する際の大原則は、「AIは複数の選択肢を提示する優秀なアシスタントであり、最終判断と検証は人間が行う」ことだ。

「修正しました」という言葉を盲信せず、差分確認・ロジック理解・段階的検証の3つを徹底することで、AIの嘘を見抜きながら生産性を向上させることができる。

この情報は @橋本 直樹 さんの投稿を参考にしています。