AIで告訴状・法律文書を作るとなぜ幻覚(ハルシネーション)が起きるのか 2026 — 限界と原因
TL;DR（要点）
AIは告訴状・訴状の構成整理や文章化を支援できますが、事実を自動的に知っているわけではありません。LLMは次に続く語を確率的に生成するため、もっともらしい条文番号・判例番号・事件番号を事実のように作ることがあります。出力は下書きにとどめ、原典照合と弁護士のレビューを経て初めて提出を検討できる資料になります。
「告訴状をAIで下書きできるか」「訴状の骨子を短時間で作りたい」と考える人は増えています。法律文書は、事実を時系列に並べ、当事者・請求・証拠を整理し、決められた形式に落とし込む必要があるため、文章化を得意とするAIとの相性がよく見える分野です。しかし、見た目の整った文章と、法律上正確な書面は同じではありません。
本記事は、AIによる告訴状・訴状などの下書きでハルシネーションがなぜ起きるのかを説明するシリーズ①です。安全に使うための具体的な確認手順は、続編のハルシネーションを最小化するチェックリストと安全な使い方で扱います。まずは、AIが得意な作業と、仕組み上どうしても人が担わなければならない作業を分けて考えましょう。
AIは告訴状・訴状をどのように下書きするのか？
AIによる法律文書の下書きは、白紙から法律判断を作り出す作業というより、入力された情報を一定の構造へ変換する作業です。利用者が当事者、出来事、日付、証拠、求める対応などを入力すると、AIはそれらを見出し、段落、箇条書き、請求や申立ての項目に並べ替えます。文章の重複を減らしたり、時系列の抜けを質問形式で指摘したりすることもあります。
一般的には、次のような層を順番に整えます。第一に、誰が関係する出来事なのかという当事者情報。第二に、いつ、どこで、誰が、何をしたのかという事実。第三に、その事実をどのような主張や請求につなげたいのかという論点。第四に、各主張を支える証拠と添付資料です。最後に、提出先の様式や弁護士の事務所書式に合わせて文章を整えます。
| 下書きの段階 | AIが支援できること | 人が確認すること |
|---|---|---|
| 情報の整理 | メモを当事者・日付・出来事・資料に分類する | 入力された事実が正確か、推測が混ざっていないかを確認する |
| 構成の作成 | 告訴状・訴状の一般的な見出し順に並べる | その手続に必要な項目と提出先の要件を確認する |
| 文章化 | 時系列や主張を読みやすい文に変換する | 意味が変わっていないか、強すぎる断定がないかを読む |
| 論点整理 | 重複、矛盾、未記載の情報を質問する | どの事実を主張し、何を争点にするかを決める |
| 仕上げ | 表現、番号、見出しの体裁をそろえる | 条文、判例、期限、証拠、署名・提出方法を確認する |
この表から分かるように、AIは書面の形を整える工程では力を発揮します。一方、どの事実が真実か、証拠がその事実を支えるか、どの法的構成を採るかという判断は、文章の流暢さだけでは決まりません。告訴と告発の違いや、告訴状に記載する事実の整理を知りたい場合は、告訴状・告発状の基本とAI活用も参考になります。
AIに任せられる部分と、人が入力・判断すべき部分は何か？
AIを法律文書に使うときの最初の境界線は、AIが独自に事件を調査しているわけではないという点です。利用者が入力した情報や、システムが明示的に参照できる資料の範囲を超えて、事実を確認することはできません。入力されていない日付、相手の発言、契約の条項、証拠の存在を、AIが正しく推測して補う保証はありません。
- 事実の入力：誰が、いつ、どこで、何をしたかは、当事者や担当者が確認できる範囲で入力します。記憶が曖昧な点は「不明」「要確認」と区別します。
- 証拠との対応：メール、録音、写真、契約書、診断書などが、どの事実を支えるのかを人が判断します。AIの要約だけで証拠の真正や証明力は決まりません。
- 法的評価：事実がどの犯罪類型、請求原因、抗弁、手続要件に当たるかは、具体的な事情と適用法令を踏まえて検討します。
- 戦略と表現：何を主張し、何を認め、どの救済を求めるかは、相手方や手続の状況を踏まえて決める必要があります。
- 最終責任：提出者名義、署名、添付資料、提出期限に関する責任をAIへ移すことはできません。
| 確認したい問い | AIができること | AIだけではできないこと |
|---|---|---|
| 出来事は何か | 入力された情報を時系列に並べる | 入力されていない事実を調査し、真実だと認定する |
| 証拠は何か | 資料名や内容を一覧にする | 資料の真正、改変の有無、証明力を最終判断する |
| 法律上どう評価するか | 検討すべき論点の候補を示す | 最新法令を前提に個別事件の結論を保証する |
| どう提出するか | 提出物のチェック項目を整理する | 管轄、期限、方式を案件に応じて確定する |
具体的な事実が少ないほど、AIは空白を埋めて文章を完成させようとします。人が「ここは資料がないため書かない」と決めるべき箇所まで、自然な説明として補われることがあるのです。文章を整える目的なら便利でも、未知の事実を補う目的で使うと、法律文書では重大な誤りにつながります。
法律文書ではどんな構造的な限界があるのか？
法律文書を扱うAIには、サービスや設定にかかわらず意識すべき構造的な限界があります。特に、AIモデル単体はリアルタイムの判例・法令データベースに直接アクセスできません。検索機能や外部資料連携がある場合でも、どの資料をいつ取得し、どの版を参照したかを人が確認しなければ、最新性を前提にすることはできません。
- 事実関係は人が入力する必要がある：AIは相談者の記憶、証拠、社内記録、捜査記録を自動的に知りません。入力が誤っていれば、整理された文章も誤った前提で作られます。
- リアルタイムの公式データベースを自動参照するとは限らない：条文の改正、施行日、新しい裁判例、裁判所ごとの書式変更は、モデルの内部知識だけでは確実に反映されません。
- 学習データの時点以降の情報は反映されない：モデルには知識の更新時点があり、それ以降の法改正や新判例を当然に知っているわけではありません。更新日が表示されていても、案件の適用時点と一致するとは限りません。
- 法域と手続の違いを自動で解消できない：日本の刑事手続、民事訴訟、行政手続、外国法の説明が同じ文章に混ざる可能性があります。
- 出典と結論は別物である：実在する資料名が示されても、その資料が主張を本当に支えているかは、原文と文脈を読まなければ分かりません。
| 構造的な限界 | 起こり得る問題 | 必要な人の確認 |
|---|---|---|
| 事実が入力依存 | 抜けた事実が自然な文章で補われる | 原資料・本人の記憶・証拠との突合 |
| 最新性が保証されない | 改正前の条文や古い手続を提示する | 適用時点の公式法令と最新の手続案内を確認 |
| 検索範囲が不明確 | 出典なしの判例候補が混ざる | 裁判所・法令データベースの原文を開く |
| 法域の混同 | 外国法や別手続の概念を取り込む | 管轄、手続名、適用法を担当者が限定する |
この限界は、AIを使ってはいけないという意味ではありません。むしろ、AIに何を入力し、どの出力を未確認として扱うかを最初に決めるための前提です。法律リサーチでAIを使う際も、候補の発見と原典確認を分ける考え方が重要です。
ハルシネーションはなぜ起きるのか？
LLMは、質問に対する真偽判定器として作られたものではありません。入力された文脈から、次に続くトークン、つまり単語や記号の断片がどれらしいかを確率的に計算し、文章を順に生成します。訓練された文章のパターンに照らして自然な続きが選ばれるため、流暢で専門的に見えることと、内容が事実であることは別問題です。
法律文書では、条文番号、裁判所名、判決日、判例番号、事件番号のように、形式がよく似た情報が連続します。文脈に具体的な出典がないと、モデルは法律文書らしい数字や固有名詞を組み合わせて、完成度の高い文章を作る場合があります。これは人を欺こうとする意思によるものではなく、もっともらしい次の表現を選ぶ仕組みと、事実確認機能の不足が重なって起きる現象です。
- 入力の不足：事件番号や判決日が提示されていないのに、文書の形を完成させようとする。
- パターンの類似：実在する裁判例の表現、法令番号、定型的な引用形式を組み合わせる。
- 確率的な選択：複数の候補から文章として自然なものが選ばれ、低い確率の不確実性が表面に出ない。
- 評価目標の違い：モデルの出力は読みやすさや関連性を高める方向に最適化されても、個別の引用の真実性を自動証明するものではない。
- 不足情報の補完：利用者が空欄を残したい場合でも、AIが会話を止めずに答えようとして説明を補う。
| 原因 | 出力の見え方 | なぜ危険か |
|---|---|---|
| 具体的な出典がない | 存在しそうな事件番号や判決日が示される | 検索しないと架空引用に気づきにくい |
| 事実と推測の境界が曖昧 | 推測が断定的な経緯として書かれる | 告訴・訴訟の主張に虚偽が混ざる |
| 古い知識と現行法の混在 | 条文番号は合っていても適用時点が違う | 提出時の法令や手続と整合しない |
| 専門的な口調 | 自信ありげな説明や引用形式になる | 自信の強さを正確性と誤認しやすい |
したがって、「自信ありげな口調」は正確性の証拠ではありません。逆に、AIが曖昧な表現を使ったから安全とも限りません。重要なのは、引用元を開いて同じ文章、同じ争点、同じ法域、同じ時点を確認できるかです。
法曹界で問題になってきた事例はどのような類型か？
法曹界や裁判実務で問題として報告されてきたAIハルシネーションは、特定の実名事件だけに限られるものではありません。一般的な類型としては、実在しない判例の引用、実在する判例の内容の取り違え、法令の現行性の誤認などがあります。ここでは特定の事件名や個別の当事者を挙げず、確認すべきパターンだけを整理します。
| 類型 | 典型的な誤り | 確認するポイント |
|---|---|---|
| 架空判例・架空事件番号 | 裁判所名、年度、事件番号がもっともらしく組み合わされる | 公式の裁判例検索で事件番号・日付・当事者表示を照合する |
| 実在判例の取り違え | 実在する判決に、別の事件の事実や結論が付け加えられる | 判決本文の争点、理由、結論を引用部分と比較する |
| 条文番号・内容の誤り | 条文番号がずれる、改正前の文言が現行法として示される | 適用時点の公式法令本文と施行日を確認する |
| 法域・裁判所の混同 | 民事手続のルールを刑事手続に適用するなど、制度が混ざる | 事件の種類、管轄、手続名を一つずつ限定する |
| 引用・URLの創作 | 存在しないページ、段落、引用文が出典として付く | リンクを開き、原文の該当箇所まで確認する |
| 事実・証拠の創作 | 入力されていない発言や資料が経緯として記載される | 証拠番号と原資料を照合し、根拠のない文を削除する |
架空判例の問題を詳しく検証したい場合は、AIの架空判例ハルシネーション検証も参照してください。重要なのは、AIが引用を出したこと自体を成果とみなさず、引用が確認できるまで未確定の候補として扱うことです。確認できない出典は、文章が自然でも提出書面に残してはいけません。
AIは、事実を発見する調査員でも、判例の真正を保証するデータベースでもありません。法律文書では、下書きの速さよりも、何を確認済みとし、何を保留し、誰が最終判断をしたかが重要です。次の記事では、この限界を前提に、入力・照合・出典要求・テンプレート・弁護士レビューを一つの実務フローにする方法を説明します。
よくある質問（FAQ）
AIは告訴状や訴状を完成品として作れますか？
AIは構成や文章の下書きを作れますが、完成品としてそのまま提出できるとは限りません。事実の正確性、法的評価、現行法、提出先の形式、証拠との対応を人が確認し、必要に応じて弁護士がレビューする必要があります。
ハルシネーションはAIが嘘をつこうとして起きるのですか？
通常は、AIに人間のような意図があるからではありません。LLMが文脈に続く確率の高い表現を生成する仕組みであり、真偽を独立に確認しないまま自然な文章を作るために起きます。
条文番号が実在すれば、その回答は正しいですか？
いいえ。番号だけが実在していても、条文の内容、適用時点、事件との関係が誤っている可能性があります。公式の条文本文と施行日を確認し、その条文が主張を支えるかまで検討してください。
AIは最新の法令や判例を自動的に知っていますか？
モデル単体がリアルタイムの公式データベースへ直接アクセスするとは限りません。検索や資料連携がある場合でも、取得した原文、更新日、適用時点を利用者が確認する必要があります。
なぜ具体的な事実を人が入力しなければならないのですか？
AIは相談者の記憶や手元の証拠を自動的に把握していないからです。事実が抜けていると、AIは空白を自然な説明で埋めることがあり、入力されていない内容が事実のように書かれる危険があります。
AIに「不明なら作らない」と指示すれば十分ですか？
その指示は有効な安全策の一つですが、十分とは限りません。指示どおりに見える出力でも、引用や事実が正しいかは原典と資料を確認し、未確認部分を保留する工程を残してください。
AIが実在する判例を引用した場合、どうすればよいですか？
裁判所、判決日、事件番号、争点、結論、引用文を公式資料で一つずつ確認します。実在する判例でも、AIが別事件の事実や結論を混ぜていることがあるため、判例名だけで採用してはいけません。
提出前の弁護士レビューは必須ですか？
法律上の手続や文書の種類によって関与の要否は異なりますが、告訴状・訴状のように提出後の影響が大きい書面では、提出前に弁護士へ確認を依頼することが安全です。特に罪名、請求原因、期限、証拠評価は専門的な判断を要します。
ハルシネーションの危険があるなら、AIを使う意味はありますか？
あります。事実を構造化し、見出しを作り、重複や抜けを発見し、弁護士がレビューしやすい初稿にする用途では時間を短縮できます。ただし、速度の利益を正確性の確認と引き換えにしない運用が前提です。
関連記事
免責事項：本記事は一般的な情報提供を目的としたものであり、法的助言ではありません。個別の告訴・訴訟については、提出前に弁護士へご相談ください。