ChatGPTの架空判例引用。裁判所の対応と、次の当事者にならないために
ChatGPTをはじめとするチャットボットが法的引用を捏造するのは、検証済みの事実ではなく、もっともらしい文章を生成する仕組みだからです。そして裁判所は、それを言い訳として扱わなくなりました。2023年のMata対Avianca事件で6件の架空判例に5,000ドルの制裁金が科されて以来、未検証のAI引用に対して数万ドル規模の制裁が弁護士や法律事務所に科され、独立系のデータベースは世界で数百件のそうした書面を記録しています。対策はAIを避けることではありません。自分で開いて確認していない引用には決して依拠しないこと、そしてすべての主張が出典そのものにリンクするツールを選ぶことです。
更新日
ChatGPTはなぜ存在しない判例を作り出すのか
言語モデルは文章の予測機です。自分の主張を支える判例を求められると、判例の形を完璧に備えたもの、つまりもっともらしい事件名、現実的な事件番号、非の打ちどころのない判決文調の引用を生成します。Scientific Reports誌に掲載された査読済みの検証では、GPT-3.5が生成した文献の55%、GPT-4でも18%が実在しないものでした。
危険なのは、捏造された引用が一見して誤りと分からないことです。書式は正しく、内容はそれらしく、本物の引用に混ざって届きます。出力のどこにも、実在するものと捏造されたものを区別する印はありません。その区別は出典そのものの中にしか存在しません。だからこそ、安全なワークフローはすべて出典の確認を通るのです。
これまでの制裁の記録
Mata対Avianca事件（ニューヨーク南部地区連邦地裁、2023年）が原型を作りました。2人の弁護士がChatGPTの捏造した6件の判例を引用した準備書面を提出し、P. Kevin Castel判事は5,000ドルの制裁金を科しました。裁判所が問題にしたのはAIの使用ではなく、確認せずに書面に署名したことです。
その後、事態はエスカレートしています。2025年にはカリフォルニア州の連邦判事が、誰も検証しないままAI生成のリサーチを含む書面を提出した2つの法律事務所に約31,000ドルの制裁を科しました。ユタ州控訴裁判所は、ChatGPTの会話の中にしか存在しない「Royer対Nelson」という判例を引用した弁護士を処分しました。判例の追跡データベースは、複数の国にまたがりAIが捏造した引用を含む数百件の書面を記録しており、裁判所は未検証の引用を技術の問題ではなく誠実義務の問題として扱うようになっています。
もう一つ知っておくべき動きがあります。2026年初頭、連邦裁判所は当事者と公開チャットボットとのやり取りに秘匿特権が及ばないと判断しました。汎用AIツールに入力した内容は、開示の対象になり得ます。
日本やフィリピンの実務にも関係があるのか
大きな制裁のニュースがまだない法域でも、義務は同じです。弁護士は自分が署名する書面の内容に責任を負います。フィリピンでは職業責任及び説明責任法典（CPRA）が裁判所への誠実義務を定めており、捏造されたG.R.番号や存在しない最高裁判決の引用は、米国での架空判例と同じようにその義務に違反します。日本でも、存在しない判例や文献を引用した書面が弁護士の品位保持義務や誠実義務と無関係でいられるはずがありません。
さらに、一次資料が検索しにくい環境には特有の罠があります。公式の官報、最高裁判所の電子ライブラリ、スキャンされた数十年分の判決に情報源が散らばっていると、チャットボットの自信に満ちた要約をそのまま受け入れたくなります。まさにそういう状況でこそ検証の規律が最も重要になり、Tatsulokのキュレーション済みフィリピン法コレクションのように実際のコーパスに基づいたリサーチが、当て推量を排除します。
すべてを防ぐ検証ワークフロー
制裁を受けた書面に共通する欠落は一つです。誰も、依拠する前に引用元を開いていません。対策のワークフローは短いものです。
1. AIが提示した引用は、要約ではなく出典そのものを自分で開くまで、すべて未検証として扱います。
2. 存在だけでなく、命題を検証します。実在する判例が、そこに書かれていない内容のために引用されることがあります。実在する判例に捏造された引用文を添えた事例も制裁を受けています。
3. 定義されたコーパスから回答し、各主張をその根拠となった箇所にリンクするツールを選びます。検証が別のリサーチ作業ではなく、ワンクリックになります。
4. 人間の署名の意味を保ちます。成果物に署名する弁護士、リサーチャー、アナリストは、AIが書いた行を含むすべての行に責任を負います。
引用第一のツールは何を変えるのか
監査結果と制裁事例は、同じ設計上の結論を指しています。チャットボットに後付けされた引用は飾りであり、出典を開く引用はインフラです。Tatsulokでは、回答のすべての文が、その根拠となった文書内の該当箇所にリンクします。情報源が主張を裏付けない場合は、根拠をでっち上げるのではなく、そのように回答します。
これにより、検証ワークフローは面倒な作業から既定の読書体験に変わります。AIの回答を記録と突き合わせるのではなく、AIを通して記録そのものを読むのです。法務、コンプライアンスをはじめ、捏造された引用が職業上の責任につながるあらゆる分野で、この逆転こそが本質です。
チームに導入すべき一段落のポリシー
一つだけ導入するなら、これです。AIには下書き、要約、資料の発見を任せてよい。ただし、人間が引用元を開き、下書きの主張どおりの内容であることを確認するまで、いかなる引用も提出物、公開物、依拠する文書に載せない。自分の文書に基づいて回答し、すべての主張が該当箇所にリンクするツールなら、このポリシーの遵守コストはほぼゼロになります。そうでないツールでは、それはあなたの無給の副業になります。
FAQ
- ChatGPTはなぜ存在しない判例を作るのですか？
- 検証済みの記録を取り出すのではなく、もっともらしい文章を予測する仕組みだからです。根拠となる判例を求められると、現実的な事件名や引用文を含む、判例の形をしたものを生成します。生成された文献の捏造率は、GPT-3.5で55%、GPT-4で18%と測定されています。
- AIの引用で実際に処分された弁護士はいますか？
- います。Mata対Avianca事件では2023年に5,000ドルの制裁金が科され、2025年にはカリフォルニア州の判事が2つの事務所に約31,000ドルの制裁を科しました。ユタ州控訴裁判所も存在しない判例を引用した弁護士を処分しています。独立系データベースは世界で数百件の類似事例を記録しています。
- 弁護士がAIを使うこと自体は安全ですか？
- 安全ですし、裁判所もそう述べています。制裁の対象はAIの使用ではなく、未検証のまま依拠したことです。すべての引用について出典を開いて確認してから署名・提出するなら、AIによる下書き、要約、資料調査は安全です。
- 判例引用が本物かどうかはどう確認しますか？
- 一次資料を開くことです。公式判例集、裁判所のデータベース、フィリピン法であれば最高裁判所電子ライブラリやTatsulokのキュレーション済みコレクションのようなグラウンディングされたコーパスを使います。判例の実在を確認し、次に主張された命題を本当に支持しているかを確認します。実在する判例でも、捏造された結論のために引用すれば偽の引用です。
- ChatGPTでの会話は秘密として守られますか？
- そう思い込まないでください。2026年初頭、連邦裁判所は当事者と公開チャットボットのやり取りに秘匿特権が及ばないと判断しました。機密性の高い業務では、契約上の守秘義務があるツールを使い、特権の対象となる分析は特権が守られる経路の中に留めてください。
