医療研究者向けに論文執筆や査読対応、システマティックレビュー（研究テーマに関する既存論文を網羅的に収集・評価する調査手法）作成を請け負う「Research Gold」というサービスがあります。同社は「100%人間執筆、AIは一切使わない」と宣伝し、サイトには博士号を持つレビュアーや専門の方法論研究者を多数掲載してきました。しかし、ジャーナリスト出資のテックメディア404 Mediaが調べたところ、掲載されたレビュアーはAIが生成した架空の人物で、電話窓口もAIが応対し、AIであることを認めないまま営業を続けていたと報じられました。
背景と文脈
医療分野の論文執筆支援や査読対応の代行は、研究者の間で一定の需要があるビジネスです。とくにシステマティックレビューやメタアナリシス（複数の研究結果を統計的に統合し、より確度の高い結論を導く手法）は、決められた手順に沿って大量の文献を精査する必要があり、労力がかかります。時間に追われる研究者が専門の代行業者に依頼するケースは珍しくありません。
一方で、生成AIの普及によって、論文の下書きやレビュー文書をAIに書かせるサービスも増えています。査読や論文原稿にAIが紛れ込むこと自体は、多くの学術誌がすでに問題視してきました。AIが生成した文章には誤った引用や存在しないデータの捏造が混じるリスクがあり、いくつかの出版社は投稿規定でAI利用の申告を義務づけています。Research Goldが「AIは一切使わない」を売り文句にしていたのは、こうした不安を持つ研究者に向けた差別化戦略だったと見られます。
信頼を裏づける材料として、Research Goldは博士号を持つレビュアーや専門の方法論研究者の名前をサイトに並べていました。誰が原稿を検証しているかを明示することで、依頼者に「人間の専門家が目を通している」という安心感を与える狙いがあったと考えられます。
ところが404 Mediaの調査は、AI排除を掲げたサービスそのものがAIで運営されていたという二重の裏切りを明らかにしました。単なる誇大広告にとどまらない問題をはらんでいます。
技術/ビジネス面
404 Mediaの記者がResearch Goldのサイトを調べたところ、信頼性を裏付けるために並んでいた博士号レビュアーたちの経歴写真やプロフィールは、AIが生成した架空の人物のものでした。実在しない人物を「専門家」として並べることで、依頼者に安心感を与える仕組みだったことになります。顔写真から経歴文まで一式が偽物という点で、単なる誤記や誇張とは性質が異なります。
さらに深刻なのは、サイトに載っていた別の方法論研究者たちです。こちらは実在する研究者でしたが、本人たちはResearch Goldに名前や経歴を使われていることを知らなかったと報じられています。無断で専門家の実名を使い、あたかも所属・協力しているかのように見せかけていた形です。実在の人物と架空の人物を混ぜて掲載することで、サイト全体の信憑性を底上げしていたとも読み取れます。
記者が実際に電話をかけると、応対したのはAIの音声エージェント（会話を自動で処理する音声応答システム）でした。記者が直接「あなたはAIですか」と尋ねても、AIであることを認めず、そのままResearch Goldのサービスを売り込み続けたといいます。メールやチャットでのやり取りも同様にAIが生成したものだったと確認されています。窓口の全経路がAIで固められていた点は、単発のミスではなく事業設計そのものが人間不在だったことを示しています。
これからどうなるか
この一件が突きつける問題は大きく二つあります。ひとつは学術研究の信頼性です。「人間が検証した」という触れ込みでAI生成の文章が査読前原稿や研究レビューに紛れ込めば、誤ったデータや不正確な引用が査読の目をすり抜けたまま医学文献に入り込む恐れがあります。医療分野では誤った情報が診療方針や患者の判断に影響しかねないため、影響範囲は他分野より深刻です。
もうひとつは、名前を無断使用された実在の研究者たちへの被害です。自分が関与していないサービスに専門家として名前を貸したことにされるのは、研究者としての評判に直結する問題です。今後、同種の被害を訴える研究者や、Research Goldに対する法的措置が出てくる可能性もあります。
AIチャットボットや音声エージェントを自作する開発者にとっても、他人事ではない話です。自社のプロダクトでAIエージェントが「私はAIではない」と偽ることがないよう、名乗りや開示の設計を最初から組み込んでおく必要があります。ユーザーから直接尋ねられた際に正直に開示する応答ルールをプロンプトやシステム設計に入れておくだけでも、今回のような信頼失墜は避けられます。逆に、開示を怠ればプロダクト自体が同じ形で炎上する火種になります。
今後、「AI不使用」を謳うサービスが実際にはAIで運営されていないか、第三者による検証を求める動きが広がる可能性があります。発注前に運営実態や掲載スタッフの実在性を確認する習慣は、研究者側にも求められそうです。
まとめ
Research Goldは「100%人間執筆、AIは一切使わない」を掲げながら、掲載レビュアーはAI生成の架空人物で、実在する研究者の名前は無断使用、電話やメールの窓口もAIが担い、AIであることを認めなかったと404 Mediaが報じました。AI排除を売りにした事業そのものがAI運営だったという事実は、学術支援サービスへの信頼と、名前を使われた研究者双方への被害を示しています。
参考リンク
アイキャッチ画像: Photo by Nathaniel Shuman on Unsplash
