AIで検索した判例が実在せず、出版社が書籍を絶版・回収。生成AIが作り話を出すハルシネーションはなぜ起きるのか。出版・法務・士業の現場が実践すべき一次情報の確認手順と、判例データベースでの照合や記録の残し方、再発を防ぐ体制づくりを実務目線で解説します。
ニュースの概要
朝日新聞によると、生成AIを使って調べた「判例」が、実際には存在しないものだった。その内容を載せた書籍について、出版社は絶版と回収を決めたという。AIがもっともらしい事件名や裁判所名、日付まで整えて答えてしまう現象は以前から知られていたが、今回は誤りが商業出版物として世に出た点が重い。誤りは読者の手元に届き、出版社は流通した本を引き取る事態に至った。個人の調べ物のミスでは済まず、書き手、編集、校閲という複数の関門が機能しなかったことを示す出来事である。
引用元: AIで検索した「判例」、実は存在せず 出版社が絶版・回収を発表 [AIの時代]（朝日新聞）
分析・見解
AIはなぜ存在しない判例をそれらしく作るのか
生成AIは、事実を引き出す検索機械ではない。大量の文章から「次に来そうな言葉」を予測して、文を組み立てる仕組みである。判例の表記には「○○地裁 令和○年○月○日判決」という決まった型がある。AIはこの型をよく覚えているので、中身が空でも本物そっくりの引用を作れてしまう。これが、作り話（＝ハルシネーション）を見破りにくい理由だ。
しかも「この主張を支える判例を教えて」と頼むと、AIは答えを返す方向に強く引っ張られる。「見つかりません」と言うより、条件に合う架空の事件を差し出すほうが、文章としては自然だからである。
米国で先行した事例と、書籍に残る盲点
2023年、米国のマータ対アビアンカ事件で、弁護士がAIの出した架空の判例を準備書面に引用し、裁判所から制裁金を科された。その後も、同種の事案は各国で相次いでいる。ただ、裁判所に出す書面には、相手方や裁判官という外側の目がある。引用が偽物なら、提出後に見つかる可能性が高い。
書籍はこの点が異なる。判例の引用は、著者の申告を信頼して進むことが多い。校閲は誤字や表記ゆれを見るのが中心で、引用された判決が実在するかまで確かめない場合も少なくない。外から指摘される仕組みがないぶん、誤りは刷り上がってから発覚する。今回の絶版・回収は、この構造の弱点が表に出た例といえる。
一冊の誤りが既刊全体への疑いを呼ぶ
見落とされがちなのは、回収費用よりも信用への波及である。法律書の読者は、書面や契約の根拠としてその本を使う。誤った判例が混じれば、読者の判断にも誤りが連鎖しかねない。すると「この出版社の他の本の引用は大丈夫か」という疑いが、既刊にまで広がる。一冊の誤りが、会社全体の検証コストを押し上げるわけだ。
禁止ではなく、使い方の線引きが現実的
AIの利用を全面禁止しても、調べ物の延長で使う人はなくならない。むしろ見えない場所で使われ、確認の機会が失われる。現実的なのは、AIの出力を「調査の入口」に限り、引用は必ず原典で裏を取るという線引きだ。今後は、出版社が著者に引用の確認記録を求める契約条項が、広がっていく可能性が高い。
ビジネスへの影響
引用の裏取りは書き手と確認者を分ける
判例、法令、統計、論文を引用する文書では、書き手と確認者を別の人にする。書き手がAIで下調べをしたなら、確認者は事件番号や裁判所名から判決の原文を探し、実在することと要旨が合っていることを見る。使うのは、裁判所の公開情報や有料の判例データベースだ。確認したら、いつ誰が何で照合したかを一行だけ残す。これだけで、後から経緯を説明できる。
AI利用のルールを契約と社内規程に落とし込む
出版社や制作会社は、著者や外注先との契約に、AI利用の申告と引用の確認義務を入れておきたい。企業の法務部や士業の事務所は、AIの回答を調べ物の出発点に限り、書面や意見書に載せる前の原典確認を必須にする。責任の所在も先に決めておくと、現場が迷わない。
誤りが見つかったときの初動を平時に決める
誤りが出たとき、公表の早さと範囲が信頼を左右する。誰が判断し、どこまで訂正や回収を告知し、誰に連絡するのかを、平時のうちに文書にしておく。訂正の窓口を一本化し、問い合わせへの回答文も用意しておけば、対応の遅れで傷を広げずに済む。