【AI入門】AIはどうやって自分の誤りに気づくのか——自己修正の仕組みを解説

ChatGPTに間違いを指摘すると「ご指摘ありがとうございます」と訂正してくれます。しかし誤りを指摘せず「本当にそれが正しいですか？」と問い返すだけでも、答えを修正することがあります。

🤔 これは不思議な現象です。最初の答えが間違っていたなら、なぜ最初から正しく答えなかったのでしょうか。そして人間に指摘されなくても「自分で気づいて直す」ことはできるのでしょうか。

今回は、AIが自分の出力を見直して修正する仕組み——自己修正（Self-Correction・Self-Reflection）の技術を比喩で解説します。現代AIが「ただ答えるだけ」から「考えながら答える」へと進化した核心に触れます。

AIは「間違えた」とどうやってわかるのか

まず根本的な疑問から整理しましょう。AIは「自分の答えが間違っているかどうか」を、どうやって判断するのでしょうか。

📌 LLMは出力したテキストに対して自己採点する仕組みを標準では持っていません。「この答えは正しい」と確信しているのではなく、「このトークンは確率的に次に来やすい」と判断して出力しているだけです。人間が「おかしいですよ」と指摘すると、その指摘テキストが文脈に加わり、「訂正されたことを踏まえて次に来やすいトークン」が変化します。これが「指摘されると直す」理由です。

これは重要な区別です。AIは「自分が間違いだと気づいた」のではなく「間違いを指摘するテキストが追加されたので、それを踏まえて回答した」のです。ユーザーが「本当にそれが正しいですか？」と問い返すだけで答えが変わるのは、その問い返しテキスト自体が「確信が持てない状況」という文脈を作り出すためです。

では「指摘なしで自己修正する」ためには、どうすればよいか。主に3つのアプローチが研究されています。

✏️ 試験の見直しに例えるなら——答案を書き終えた後に「本当に合ってるか確認しよう」と見直す行為は、最初の解答プロセスとは別の思考です。AIの自己修正も「書いた後にもう一度考え直させる」という、二段階の処理として設計されています。

自己一貫性（Self-Consistency）——複数の答えを出して多数決する

🗳️ 最もシンプルな自己修正手法がSelf-Consistency（自己一貫性）です。

同じ問題に対して、モデルを複数回（例えば10回〜20回）実行します。各回でランダムに少し異なる経路の思考連鎖（Chain of Thought）を生成させ、それぞれの最終答えを集めます。そして最も多く出現した答えを最終回答とします。

なぜこれで精度が上がるのか。 LLMの推論には「確率的なゆらぎ」があります。同じ問題でも毎回少し違う思考経路をたどります。正しい答えに向かう経路は複数あっても一致しやすく、間違いは多様に分散する傾向があります。多数決を取ることで「まぐれの正解」より「本質的に正しい答え」を拾いやすくなります。

🏛️ 陪審員の評決に例えるなら——1人の判断より12人の陪審員が独立して考えて全員一致した結論の方が信頼性が高い。Self-Consistencyは「同じAIに12回独立して考えさせて、多数決で決める」陪審員システムです。

Self-Consistencyの効果は顕著で、GPT-4に算数文章問題を解かせた実験では、単一回答と比べて正解率が10〜15ポイント以上向上するケースが報告されています。

欠点はコストです。10〜20回実行するためAPIの呼び出し回数と時間が増えます。重要な判断やエラーの許容度が低いタスクで使われる手法です。

Reflexion——失敗の記憶を使って繰り返し改善する

🔄 より動的な自己修正手法がReflexion（リフレクション）です。2023年にMITとNortheastern大学の研究チームが発表しました。

Reflexionの仕組みは次の通りです。

• ① 実行: タスクを試みる（コードを書く、質問に答えるなど）

• ② 評価: 結果が正しいかを判定する（テストの合否、外部ツールの検証結果など）

• ③ 反省: 失敗した理由を言語化する（「この部分でエラーが出たのは〜だから」）

• ④ 記憶: 反省テキストを次の試行の文脈として蓄積する

• ⑤ 再実行: 反省を踏まえて再挑戦する

重要なのは③の「失敗理由の言語化」です。ただ「失敗した→やり直し」では同じ間違いを繰り返します。「なぜ失敗したか」をテキストで書き出すことで、次の試行でその失敗を回避する文脈がモデルに与えられます。

🏃 スポーツ選手の練習日誌に例えるなら——「今日の試合でフォームが崩れた→原因は疲労時に左肩が下がること→次の練習では意識する」という振り返りと同じ構造です。経験を言語化して記憶することで、同じ失敗の繰り返しを防ぎます。

コード生成タスクでは、Reflexionを使うと単純な再試行より大幅に成功率が向上することが示されています。現在のClaude・ChatGPTのコーディング機能にもこの考え方が取り込まれています。

Constitutional AI——価値観を持った自己批判

🧭 Anthropic（Claudeの開発元）が提案した独自の手法がConstitutional AI（CAI：憲法的AI）です。

CAIではモデルに「価値基準のリスト（憲法）」を与え、自分の出力がその基準を満たしているか自己評価・修正させます。

具体的な流れはこうです。まずモデルが回答を生成します。次に「この回答は有害ではないか」「この回答は正直か」「この回答は役立つか」という憲法の原則に照らして自己批判させます。そして批判を踏まえた修正版を生成させます。この批判→修正サイクルを繰り返すことで、人間のフィードバックなしに安全で倫理的な回答を生成できるようになります。

✍️ 論文の自己校閲に例えるなら——論文を書いた後に「学術的に正確か」「引用は適切か」「倫理的問題はないか」というチェックリストで自分で見直す行為と同じです。外部の査読者に頼らず、チェックリストを内面化することで自律的な品質管理が実現します。

この手法はAnthropicがClaudeの安全性トレーニングに実際に活用しており、大量の人間のフィードバックなしでも安全性と有用性のバランスを学習できた実績があります。人間がラベル付けしたデータだけに頼る従来の手法より、スケールしやすい安全性向上の方法として注目されています。

まとめ：AIの「自己修正力」が信頼性を高める

📝 今回の内容を整理します。

✅ LLMは標準では「自分の間違いを認識する仕組み」を持たない。指摘されると文脈が変わり修正されるが、それは自覚ではなくトークン予測の変化

✅ Self-Consistency（自己一貫性）は同じ問題を複数回実行して多数決を取る。正しい答えは収束しやすく、誤りは分散する性質を利用する

✅ Reflexion（リフレクション）は失敗理由を言語化して記憶し、次の試行に活かす反省ループ。「なぜ失敗したか」の言語化が改善の鍵

✅ Constitutional AI（CAI）はAnthropicが開発。価値基準リストに照らした自己批判→修正のサイクルで、人間のフィードバックなしに安全な出力を実現

✅ これらの手法は現在のChatGPT・Claude・Geminiの設計に組み込まれており、単純な「一発回答」より信頼性の高い出力を生み出している

AIの「自己修正力」は、人間の校閲者・監督者の負担を減らしながら出力の品質を高める技術です。 しかしどのアプローチも完璧ではなく、重要な判断では人間のチェックが引き続き不可欠です。AIを正しく使う上で、この限界を知ることも重要です。

次回は「AIはどうやって長い文書を短くまとめるのか——文書要約の仕組みを比喩で解説」を解説します。

フォロー・スキで続きを読む励みになります 🌱

「わかりやすかった」と思ったら、周りのAI初心者の方にシェアしてもらえると嬉しいです。

関連記事