AIによる論文大量生産と査読の崩壊——ChatGPTが暴いた学術出版の構造的脆弱性

2022年11月、OpenAIがChatGPTを公開してから、半年ほど。しかし、この半年間で学術出版の世界に起きた変化は、過去数十年に匹敵するほどのインパクトを持っています。

ChatGPTが複数の研究論文やプレプリントに「共著者」として記載される事態が発生し、2023年1月、二大科学誌である『Nature』と『Science』が相次いでAIツールを論文の著者として認めない方針を発表しました。『Science』の編集長H. Holden Thorpは、その論説を端的にこう題しています——「ChatGPT is fun, but not an author（ChatGPTは面白い。しかし著者ではない）」。

しかし筆者が問いたいのは、「AIに論文を書かせてよいか」という表面的な問題ではありません。むしろ本質的な問いはこうです——ChatGPTは、学術出版システムにこれまで見えにくかった構造的脆弱性を「つくった」のか、それとも「暴いた」のか？

本稿の主論

ChatGPTがもたらした学術界の混乱は、AIが新たに生み出した問題ではなく、「publish or perish（発表せよ、さもなくば消えよ）」の圧力のもとで長年蓄積されてきた査読制度の構造的限界が、AIという高性能のストレステストによって一気に顕在化したものである。真に問われるべきは「AIを禁止するか許可するか」という二項対立ではなく、「論文の量で研究者を評価する」システムそのものの持続可能性である。

いま何が起きているのか——ChatGPT登場後の学術界の5か月

2023年5月現在の状況を、時系列で整理します。事態は驚くべき速さで動いています。

AIが「著者」になった日

ChatGPTの公開からわずか数週間で、複数の研究論文やプレプリントにChatGPTが共著者として名前を連ねる事態が発生しました。『Nature』の報道によれば、少なくとも4本の論文・プレプリントでChatGPTが正式な共著者として記載されており、多くの科学者がこれに反対の声を上げています。

ChatGPTは、学術論文のアブストラクト（要約）を科学者が人間の書いたものと区別できないレベルで生成できること、医学試験に合格する水準の回答を出力できることが報告されています。一方で、存在しない文献を「もっともらしく」でっち上げる——いわゆるハルシネーション（幻覚）——の問題も指摘されており、質の低い研究を偽りの数字とともに引用し、読者を欺くほど説得力のある偽論文を生成しうるという懸念が高まっています。

学術出版社の緊急対応

2023年1月、『Science』と『Nature』が相次いでAIに関するポリシーを発表しました。

『Science』の対応は最も厳格で、AIが生成したテキストや図・画像の使用そのものを禁止し、違反を「科学的不正行為」と位置づけました。一方『Nature』は、著者として認めないものの、補助ツールとしての使用は開示を条件に容認するという、やや柔軟な姿勢を取っています。

しかし、いずれのポリシーにも共通する根本的な課題があります。それは、AIが生成したテキストを確実に検出する手段が、現時点では存在しないということです。

検出の困難——「いたちごっこ」の始まり

既存の剽窃検出ソフトウェアは、AI生成テキストを信頼性高く検出することができないことが複数の研究で示されています。さらに皮肉なことに、AI生成テキストをリライトしてさらに検出を困難にすることもChatGPT自身が行えてしまいます。検出ソフトウェアは改良が進むとしても、急速に発展するAIツールとの間で、文字通りの「捕食者・被食者の共進化」——終わりなき軍拡競争——が始まることは避けられません。

ChatGPT公開からわずか半年で、AIが著者になる事態の発生、主要学術誌の緊急ポリシー策定、そしてAI検出の困難さという三つの問題が同時に噴出した。しかし、これらは本当にAIが「つくった」問題なのだろうか。

AIが「つくった」危機ではなく「暴いた」危機

ここから本稿の核心に入ります。ChatGPTが学術界にもたらした混乱を、AIの問題としてではなく、学術出版システム自体の構造的脆弱性として読み解きます。

「publish or perish」——量を求めるシステムの歪み

学術界には長年、「publish or perish（発表せよ、さもなくば消えよ）」という圧力が存在します。研究者の評価は、発表した論文の本数と被引用数に大きく依存しており、このシステムが研究者に「量」を求める構造的なインセンティブを生んできました。

1981年に約40万件だった全世界の自然科学系論文数は、2018年には約3.5倍の140万件にまで膨張しています。論文数の爆発的増加は、研究の進展の反映である一方で、「発表のための発表」が増えている可能性を示唆しています。

この文脈において、ChatGPTの登場は何を意味するでしょうか。それは、「量を生産するコスト」が限りなくゼロに近づいたということです。これまでは、質の低い論文であっても書くには一定の時間と労力が必要でした。しかし今、それっぽい論文をAIが瞬時に生成できるようになった。「量で評価する」システムの下で、量の生産コストがゼロになったとき、何が起きるか——その答えが、今まさに目の前で展開されているのです。

査読制度の「前提」が崩れている

学術出版の品質保証の要は、査読（ピアレビュー）制度です。専門家が論文を評価し、掲載に値するかどうかを判断する。この制度は、以下の前提の上に成り立っています。

1. 投稿される論文は、著者自身が知的作業として執筆したものである
2. 査読者は人間であり、論文の内容を自らの専門知識で評価する
3. 査読に必要な時間と労力を、ボランティアの専門家が提供し続けてくれる

ChatGPTの登場は、これら三つの前提すべてに疑問を投げかけました。

前提①については、すでに述べたとおりです。著者がどこまでAIの助けを借りたかを外部から判別する確実な方法がない以上、「著者自身の知的作業」という前提は、今後もはや自明のものとは言えません。

前提②も揺らぎつつあります。査読者自身がChatGPTを使って査読レポートを書く可能性が指摘されており、実際にAI的な文体の特徴を持つ査読レポートの存在が報告され始めています。『Nature』の2023年1月のポリシーでは、査読者がAIツールを使用した場合の透明な開示を求めています。

そして前提③——これは、AIとは無関係に長年指摘されてきた「査読者の疲弊（reviewer fatigue）」の問題です。論文数が年々増加する一方で、査読者はボランティアであり、その負担は増大の一途をたどっています。査読の質の低下は、ChatGPT以前からの構造的問題です。AIは、すでに限界に達していたこの制度に、さらなる負荷をかけたに過ぎません。

「ペーパーミル」問題——AIの前から存在した学術不正の産業化

ここで強調しておきたいのは、学術論文の大量生産と不正は、ChatGPTの登場以前から深刻な問題だったという事実です。

「ペーパーミル（論文工場）」と呼ばれる組織が、偽造データに基づく論文を組織的に量産し、学術誌に投稿するビジネスは、すでに国際的な問題として認識されていました。著者資格の売買（authorship-for-sale）もまた、学術界の暗部として存在しています。

ChatGPTは、こうした不正行為の「参入障壁」を劇的に下げたとは言えるでしょう。かつてはペーパーミルを運営するには一定の専門知識が必要でしたが、AIがあれば専門外の人間でも「それっぽい」論文を生成できてしまいます。しかし、問題の本質は変わりません。「論文の量で研究者を評価する」システムが、量産の動機を構造的に内蔵している以上、ツールが何であれ——手作業であれAIであれ——量産の圧力は消えないのです。

「禁止」は解決策になるか——学術界が本当に問うべきこと

現在、学術出版社の対応は「禁止」か「開示義務付け」のいずれかに分かれています。しかし、どちらのアプローチにも根本的な限界があります。

「禁止」の非現実性

『Science』が採用したAIテキストの全面禁止は、原則として明確ですが、実効性に疑問が残ります。前述のとおり、AI生成テキストの確実な検出は現時点では不可能です。英語が母語でない研究者がAIで英文を校正する行為と、AIに論文を丸ごと書かせる行為の間には連続的なグラデーションがあり、「どこからが禁止か」の線引きは極めて困難です。

また、AIツールの使用を全面禁止することは、研究の効率化やアクセシビリティの向上という正当な利点まで封じてしまうリスクがあります。『Science』自身が認めるように、「AIの全面禁止は非現実的」であり、問題は「使うかどうか」ではなく「どう使うか」にあります。

「開示義務」の限界

『Nature』が採用した開示義務のアプローチは、より現実的ですが、それが機能するためには研究者の誠実さに依存します。そして、「publish or perish」の圧力下で誠実さだけに頼ることの脆さは、ペーパーミル問題が証明済みです。

問うべきは「評価システム」そのもの

筆者は、AIの禁止や開示義務が不要だと主張しているのではありません。短期的な対策としてそれらは必要です。しかし、より本質的に問われるべきは、「論文の量で研究者を評価する」というシステムそのものの持続可能性です。

もし研究者の評価が、発表論文数ではなく研究の質、社会的インパクト、再現性、オープンサイエンスへの貢献度など、より多元的な指標に基づくようになれば、「論文を大量生産する動機」自体が弱まります。AIは、この「量から質へ」の転換を迫る外圧として、結果的にプラスに機能する可能性すらあるのです。

◎楽観論への留意点

「AIが学術界を改革するきっかけになる」という議論には、慎重さも必要です。テクノロジーの登場が社会的問題を自動的に解決した歴史はほとんどありません。AIが査読制度の改革を「促す」ことはあっても、改革を「実行する」のは人間の判断と行動です。

また、改革には制度設計、国際的合意形成、既得権益との調整など、膨大な政治的コストが伴います。AIの登場によって問題が「可視化」されたことと、問題が「解決」されることは、まったく別の話です。

「科学の透明性」を守るために——いま私たちにできること

最後に、2023年5月現在という「嵐の最中」にあって、学術界の各アクターが取るべき方向性を整理します。

研究者に対して：AIツールの使用は避けるのではなく、使い方に責任を持つ。AIの出力を批判的に検証し、誤りを修正し、使用した事実を正直に開示する。「AIに書かせた論文」と「AIを道具として活用した論文」は、倫理的に別物です。その線引きを自覚する知性こそが、今求められています。

査読者に対して：査読にAIを利用する場合は透明に開示する。また、投稿原稿をAIプラットフォームにアップロードすることは、機密性の観点から厳に避けるべきです。

学術出版社・学会に対して：短期的にはAI使用に関する明確なポリシーの策定と更新を続けること。中長期的には、「論文数」に偏重した評価システムの見直しに向けた議論をリードすること。

研究機関・資金提供者に対して：研究者の評価における多元的な指標の導入を検討すること。「何本書いたか」ではなく「何を発見し、それが社会にどう貢献したか」を問う仕組みの構築が急務です。

よくある質問（FAQ）

Q1. ChatGPTで論文を書くことは「不正」ですか？

2023年5月現在、学術誌によって対応は異なります。『Science』はAI生成テキストの使用自体を禁止していますが、『Nature』は著者として認めないものの、補助的な使用は開示を条件に許容しています。いずれにせよ、AIが生成した内容の正確性と完全性に対する最終責任は人間の著者にあるという点では一致しています。使用を検討する場合は、投稿先のジャーナルの最新ポリシーを必ず確認してください。

Q2. AI生成の論文は見分けられますか？

現時点では確実な検出方法は存在しません。既存の剽窃検出ソフトではAI生成テキストを信頼性高く検出できず、AIで生成したテキストをリライトすればさらに検出は困難になります。ただし、存在しない文献の引用（ハルシネーション）や、AIに特有の表現パターンなどが手がかりになる場合はあります。

Q3. なぜNatureとScienceで対応が違うのですか？

これは「禁止か許容か」ではなく、「短期的な厳格対応か、中長期的な枠組み構築か」という戦略の違いです。『Science』は明確な線引きを優先し、AIテキストの使用自体を不正行為と位置づけました。『Nature』は完全禁止の実効性に懸念を持ち、使用の透明性確保を選びました。いずれも暫定的な対応であり、今後の技術発展と議論の中で更新されていくでしょう。

Q4. 査読制度はこれで崩壊するのですか？

「崩壊」というより「限界の顕在化」が適切な表現です。査読者の疲弊、論文数の爆発的増加、ペーパーミル問題など、査読制度の構造的課題はAI以前から存在していました。ChatGPTは、すでに限界に達していた制度にさらなる負荷をかけたのです。崩壊を防ぐためには、AI対策だけでなく、評価システムの根本的な見直しが必要です。

Q5. AIは学術研究にとって「敵」なのですか？

AIは敵でも味方でもなく、道具です。文献調査の効率化、データ分析の補助、英文校正など、正しく使えば研究の生産性を高めるツールになります。問題はAIそのものではなく、「量で評価する」システムのもとでAIが悪用される構造にあります。NIEHS（米国国立環境健康科学研究所）の生命倫理学者David Resnikの言葉を借りれば、「AIは他のツールと同じであり、良い使い方も悪い使い方もある。真の危険は、AIに人間の代わりをさせることだ」ということです。

まとめ——ChatGPTが学術界に突きつけた「本当の問い」

本稿で明らかになったことを整理します。

• 事態の急展開：ChatGPT公開からわずか半年で、AIの著者問題、学術誌の緊急ポリシー策定、検出の困難さという三重の問題が同時に噴出した
• 「暴かれた」構造的脆弱性：これらの問題は、AIが新たに生み出したものではなく、「publish or perish」の圧力、査読者の疲弊、ペーパーミルの横行など、長年蓄積されてきた学術出版の構造的問題がAIによって顕在化したものである
• 「禁止」の限界：AIテキストの検出手段が不完全である以上、全面禁止は実効性に疑問がある。開示義務も研究者の誠実さに依存する
• 本質的な問い：真に問われるべきは「AIを使ってよいか」ではなく、「論文の量で研究者を評価するシステム」の持続可能性である
• 「量から質へ」の転換：研究評価の多元化——質、再現性、社会的インパクトなどを含む指標への移行——が、AIの悪用を構造的に抑止する最も本質的な対策となりうる

ChatGPTは、学術界に一つの鏡を差し出しました。その鏡に映っているのは、AIの脅威ではなく、私たちが長年直視を避けてきた「量を求め、質の検証を他人に委ね、その他人もまた疲弊している」という学術出版の自画像です。

2023年は、「AIと学術」の関係が問い直される元年として記憶されるでしょう。しかし、この問いに対する答えは、AIの技術がいかに進歩するかではなく、私たち人間が「研究とは何のためにあるのか」という根本に立ち返れるかどうかにかかっています。

科学の進歩を支えるのは、論文の数ではありません。「まだ誰も知らないことを、誠実な方法で明らかにする」という営みの積み重ねです。AIにできることが増えるほど、人間にしかできないこの営みの価値は、むしろ高まっていくはずです。