ハルシネーション対策誤りを減らす方法と確認の手順
生成AIがもっともらしい誤りを出すハルシネーションへの対策を整理します。指示の工夫、資料の提示、出典の要求、検索や社内資料の併用、人による確認のしかた、確認の優先順位をまとめます。
公的機関・公式資料などの一次情報と照合して作成しています。このサイトについて
ハルシネーション対策とは
ハルシネーションは、生成AIが事実と異なる内容を、もっともらしく出力してしまう現象です。完全になくす方法は現時点では確立されておらず、「減らす工夫」と「見つける確認」を組み合わせて対処します。原因と基本はハルシネーションを参照してください。ここでは具体的な対策を整理します。
対策の全体像
| 段階 | 対策 |
|---|---|
| 入力の工夫 | 指示と前提を明確にし、必要な資料を渡す |
| 仕組みの工夫 | 検索や社内資料を参照させる（RAG（検索拡張生成）参照） |
| 出力の確認 | 出典の確認、事実の照合、人によるレビュー |
| 運用の工夫 | 用途ごとの確認ルールを決める |
入力の工夫
| 工夫 | 内容 |
|---|---|
| 資料を渡す | 根拠となる文章を貼り、その範囲で答えるよう指示 |
| 分からないと答えさせる | 「資料にない場合は、分からないと答えて」と書く |
| 範囲を限定する | 何についての質問かを具体的にする |
| 出典を示させる | どこから引いたかを、あわせて書かせる |
| 段階に分ける | 複雑な質問は、小さな質問に分ける |
資料を渡す方法は有効ですが、それでも要約の誤りは起こり得ます。資料の該当箇所と見比べます（プロンプトの書き方参照）。
仕組みの工夫
| 方法 | 内容 |
|---|---|
| 検索の併用 | 最新の情報や公式の情報を検索して参照させる |
| RAG | 社内資料などを検索して回答の根拠にする（RAG（検索拡張生成）・チャンク分割・リランキング参照） |
| ツールの利用 | 計算や日付は、AIの記憶でなくツールで処理 |
出力の確認
| 確認項目 | 方法 |
|---|---|
| 数字・日付・固有名詞 | 公式の資料で照合 |
| 法律・制度・医療・金融 | 専門家や公的機関の情報で確認 |
| 引用・出典 | 実在するか、内容が合っているかを確認（存在しない出典が示されることがある） |
| コード | 実行して確かめ、テストする |
| 重要な判断 | 人が最終確認する（人間の確認を入れる設計参照） |
確認の優先順位
すべてを同じ強さで確認するのは現実的ではありません。影響が大きいものから確認します。
| 影響 | 例 | 確認の強さ |
|---|---|---|
| 大きい | 契約・お金・健康・法律に関わる内容 | 必ず一次情報と専門家で確認 |
| 中 | 社外に出す文章、数字を含む資料 | 事実を照合 |
| 小 | 社内メモ、アイデア出し | 目視で確認 |
組織での運用
| 項目 | 内容 |
|---|---|
| ルール | 用途ごとに、確認の手順を決める（チームで使うルール作り参照） |
| 記録 | 誤りの事例を共有する |
| 評価 | 代表的な質問で、定期的に精度を確認（LLMアプリの評価参照） |
| チェックリスト | 確認項目を一覧にする（AI出力のチェック方法参照） |
ハルシネーション対策でよくあるミス
- 自信ありげな文章を、正しいと思い込む。
- 出典があることだけで、内容を確認しない。
- 重要度に関係なく、同じ確認で済ませる。
- 同じ質問への回答が一致したことで安心する。
ハルシネーション対策のチェックリスト
- 数字・固有名詞を公式資料と照合したか。
- 重要な用途は、人が最終確認したか。
- 資料を渡す・検索を併用するなどの工夫をしたか。
ハルシネーション対策のFAQ（よくある質問）
Q. 新しいモデルなら誤りは出ませんか？
A. 減る傾向はありますが、ゼロにはなりません。確認は必要です。
Q. 「間違えないで」と書けば防げますか？
A. 効果が限られます。資料の提示や確認の手順のほうが有効です。
Q. 出典を付けさせれば安心ですか？
A. 出典自体が誤っていることがあるため、リンク先の内容まで確認します。
確認の進め方（例）
AIの回答に含まれる事実を確認するときは、次のような手順にすると、抜けが減ります。
| 手順 | 内容 |
|---|---|
| 1 | 回答の中から、数字・日付・固有名詞・制度名に印を付ける |
| 2 | それぞれを、公式サイトや一次資料で検索して照合する |
| 3 | 一致しないもの、見つからないものは、回答から外すか修正する |
| 4 | 修正した内容を、必要ならAIに再度渡して文章を整える |
| 5 | 確認した資料の名称と日付を、メモとして残す |
確認の記録を残しておくと、後から「どこまで確かめたか」を説明でき、同じ作業を繰り返すときの手間も減ります。
誤りが起きやすい場面
次のような場面では、誤りが出やすいため、特に注意して確認します。
| 場面 | 理由 |
|---|---|
| 最近の出来事・新しい制度 | 学習した時点より後の情報は、知らない場合がある |
| 数字の計算・集計 | 言語モデルは計算が不得意なことがある |
| 専門性の高い分野 | 資料が少なく、もっともらしい推測で埋めてしまう |
| 固有名詞・書誌情報 | 実在しない名称や出典を作ることがある |
| 長い文章の要約 | 重要な点が抜けたり、元に無い内容が混ざったりする |
こうした場面では、検索や資料の提示を併用し、確認の強さを上げます。
筆者の見解（ハルシネーション対策）
ハルシネーション対策は、AIを疑うことではなく、「確認の手順を決めておくこと」だと考えます。影響の大きさに応じた確認ルールを先に決めておくことで、安心して使えると考えます。
ハルシネーション対策の関連項目
- ハルシネーション
- RAG（検索拡張生成）
- AI出力のチェック方法
- 人間の確認を入れる設計
- LLMアプリの評価
出典（一次情報）
本記事は一般的な情報の提供を目的としています。AIのサービス・機能・料金・仕様は頻繁に更新されるため、最新の内容は各社の公式ドキュメントでご確認ください。「筆者の見解」は一つの考え方です。