何が起きたのか——「合成引用」混入の経緯
AIを活用した書籍執筆において、実在の人物が実際には語っていない言葉が引用文として挿入される、いわゆる「合成引用（synthetic quotes）」の問題が改めて浮き彫りになった。著者のスティーブン・ローゼンバウム氏は、自身の著書『The Future of Truth』の執筆過程でAIツールを積極的に活用したことを認めており、その結果として不正確な引用が本文に混入したと説明している。Sourceが報じているところによれば、ローゼンバウム氏はこの事実を隠蔽するのではなく、自ら経緯を公開するという対応を選択した。
「合成引用」とは、生成AIが学習データや文脈から推測・生成した、実際には発言されていない引用文を指す概念である。大規模言語モデル（LLM）——人間の言語を統計的に学習し、確率的に次のトークンを予測するAIシステム——は、文体や文脈に照らして「もっともらしい」文章を生成する能力に長けている一方で、事実と創作の境界を自律的に判断する機能を本来的に持ち合わせていない。このため、実在する人物の発言として機能的に見える文章を、根拠なく生成してしまうケースが報告されている。ローゼンバウム氏の事例は、その典型的な発現形態と評価できるだろう。
著者の立場——透明性と継続使用という選択
ローゼンバウム氏の対応において注目すべき点は、問題を認識した後もAIの活用を継続する意向を明確に示したことである。これは一見すると矛盾した態度に映るかもしれないが、氏の主張の核心は「AIの使用そのものが問題なのではなく、検証プロセスの欠如が問題だった」という認識にあると思われる。つまり、ツールの有用性を認めつつ、人間による事実確認（ファクトチェック）の工程を強化することで問題は解決可能だという立場を取っているものと考えられる。
この姿勢は、出版業界全体が直面している問いと深く関わっている。生成AIは、調査・構成・文章生成といった作業の効率を大幅に高める可能性を持つ一方で、その出力をそのまま採用することのリスクは、今回のような形で顕在化する。ローゼンバウム氏が自らの失敗を公開したことは、業界全体に対する一種の警鐘として機能すると評価できるだろう。ただし、当該書籍によって引用を捏造された当事者の立場や権利保護については、本ソースの情報だけでは十分に論じることが難しく、その点には留保が必要だと筆者は考える。
出版倫理とAI活用——問われる検証責任の所在
この事例が提起する本質的な問いは、「AIが生成したコンテンツの検証責任は誰が負うべきか」という点に集約されると思われる。伝統的な出版倫理においては、著者・編集者・出版社がそれぞれの段階で事実確認の責任を分担する構造が確立されてきた。しかし生成AIの介在によって、この責任の所在が曖昧になりつつある現状は、業界横断的な議論を必要とする段階に達しているのではないだろうか。
特に引用文の扱いは、ジャーナリズムや学術出版において極めて重要な倫理的基準である。引用とは、発言者の意図・文脈・言葉を正確に伝えることを前提とした表現形式であり、その正確性が損なわれた場合、発言者の名誉や信頼性に直接的な影響を与え得る。生成AIが「もっともらしい引用」を自動生成する能力を持つ以上、著者や編集者は一次ソース（原典資料）への照合を従来以上に厳格に行う必要があると考えられる。
また、AIを活用した執筆物に対する「開示義務」の問題も、今後ますます重要性を増すと推測される。現時点では、多くの出版社や学術誌がAI使用の開示を求めるポリシーを整備しつつあるが、その基準は統一されておらず、「どの程度の関与から開示が必要か」という線引きも依然として流動的な状況にある。ローゼンバウム氏のケースは、こうした制度的空白が実害として顕現した事例として記録される可能性があると思われる。
結論——透明性は必要条件だが、十分条件ではない
筆者の見解を述べるならば、ローゼンバウム氏が問題を自ら公開したことは、誠実さという観点から評価できる行動だと考える。しかし同時に、透明性の確保は問題解決の出発点に過ぎず、それのみで出版倫理上の責任が果たされるとは言い難いとも思われる。「AIを使い続ける」という選択肢そのものを否定する必要はないが、その前提として、生成物の全引用について一次ソースへの照合を徹底するという工程の制度化が不可欠だろう。
生成AIが出版・報道・学術の各領域に深く浸透しつつある現在、「AIが書いた」という事実よりも「人間が検証した」という事実の方が、コンテンツの信頼性を担保する上でより重要な意味を持つ時代が到来しつつあると筆者は感じている。ただし、その検証コストをどのように持続可能な形で確保するかという実務的課題については、本稿の範囲を超えるものであり、引き続き注視が必要な論点だと評価する。
