AI規制の盲点:AIが数秒で書いた資料を、誰が何週間もかけて確かめるのか

AI規制の盲点:AIが数秒で書いた資料を、誰が何週間もかけて確かめるのか

194件の引用のうち、主張を裏付けたのは50件

会議資料に「国内企業の7割が導入」とある。脚注を押すと、確かに調査報告書が開いた。ところが元の質問を読むと、尋ねていたのは「導入を検討していますか」だったとする。「7割」という数字も、調査の名前も合っている。それでも、この一文をそのまま会議で使えば、検討段階の企業まで導入済みに数えてしまう。

AIが書いた文章の出典を確かめるとは、こうした動詞一つの違いまで読むことだ。その手間を実際に引き受けたのが、インドの調査機関「Oryx Centre for Strategic Futures」を立ち上げたアマルティヤ・クマール氏と、共同創設者のリヤ・ナルワ氏だった。

クマール氏が2026年11月18日、豪州の言論誌『On Line Opinion』に寄せた論考によると、二人は数週間をかけ、AIが生成した調査資料30本の引用を一件ずつ点検した。照合したのは、資料に書かれた主張と、そのすぐそばに添えられた出典だ。


引用をたどった結果件数
ページの移動などで、リンク先の資料にたどり着けなかった95件
出典が本文の主張を裏付けていた50件
出典は実在したが、書かれている内容が主張と食い違った17件
確認できなかった31件
リンクの記載がなかった1件
合計194件

二人が根拠を確認できた割合は約26%だった。残る約74%には、リンク切れや確認不能も含まれる。ページが移転しただけで、元の記述は正しかった可能性もある。数字は著者らが調べた30本についての集計であり、生成AI全体の正答率を示すものではない。


いちばん気づきにくいのは、開けてしまうリンク

一覧の中で立ち止まりたいのは17件だ。リンク切れなら、その場で読み手は「確認できていない」と気づく。一方、実在する研究機関のページが開き、本文とよく似た言葉が並んでいれば、そこで確認を終えたくなる。冒頭の例なら、「7割」をページ内検索して同じ数字が見つかった瞬間だ。

引用の誤りには、別々の段階がある。そもそも論文が存在するのか。著者や掲載誌は合っているのか。そして、その論文から目の前の結論を引き出せるのか。最初の二つを通過しても、最後でつまずくことがある。

2023年に学術誌『Scientific Reports』に掲載された研究は、このうち文献の実在と書誌情報に焦点を当てた。研究者が当時のChatGPTに42のテーマで文献レビューを書かせ、計636件の参考文献を点検すると、架空の文献はGPT-3.5で55%、GPT-4で18%だった。さらにGPT-4では、実在した文献に限っても24%に重要な書誌上の誤りがあった。モデルも課題もクマール氏らの調査とは異なるが、「本物の論文が混じっている」ことを、参考文献一覧全体の信用の根拠にはできないと分かる。


SNSで図書館員が語った「二つの論文にまたがるページ」

この問題が図書館のカウンターにどう持ち込まれるのか。元記事の掲載に先立つ2025年6月、海外掲示板Redditの図書館コミュニティーには、AIに勧められたという本や論文を探した経験が寄せられていた。

 

ある投稿者が教授から照会を受けた論文には、実在する研究者の名前と学術誌名があり、巻号と刊行時期も合っていたという。ところが指定されたページを開くと、そこに載っていたのは、ある論文の末尾と次の論文の冒頭だった。出所を尋ねられた教授は、ChatGPTにもう一度聞き、実在するとの返事を得たと答えたそうだ。問い直して同じ答えが返ってくることと、雑誌を開いて確かめることの違いが、この数ページに表れている。

別のスレッドでは、ある投稿者が、利用者に著者の作品一覧を見せながら一緒に書名を確認した体験を紹介している。AIが挙げた題名は、その作家の実在する二作品のタイトルの一部と、利用者が検索時に使った言葉を組み合わせたように見えたという。著作一覧を一緒に見た利用者は納得したそうだ。

いずれも個人の体験談だが、そこには調査の件数からは見えにくい負担がある。もっともらしい書名を一つ作るのは一瞬でも、それが見つからない理由を説明する人は、著作一覧を調べ、雑誌の現物を開き、ときには相手と一緒にページをめくる。


日本の会議資料なら、最初にどの一文を確かめるか

クマール氏がAIをめぐる各国の制度を論じながら提起したのは、ごく実務的な問いだった。安全方針を作り、問題が起きたときの報告先を決めても、今日配られる資料の脚注は、いったい誰が開くのか。

日本の職場であれば、まず「この一文が違っていたら、会議の結論が変わるか」と考えると、確認の順番が見えやすい。冒頭の「7割」を根拠に投資を急ぐ提案なら、担当者が開くべき場所は、報告書の表紙よりも、その数字を生んだ質問文と集計表だ。「国内企業」と書ける標本なのか。「導入済み」と「検討中」は別々の選択肢か。そこまで読めば、資料に残せる一文が決まる。

学校のレポートでも同じことができる。参考文献欄に論文名を写す前に、「自分のこの一文を支えるのは、論文の何ページの、どの記述か」を余白に書いてみる。該当箇所が見つからなければ、主張を原文で言える範囲まで狭める。出典を開いたことで文章が少し地味になったなら、その修正にこそ、確かめた価値がある。


出典