AI生成の「ナンセンス」画像が原因で科学ジャーナルが査読済み論文を撤回

オープンアクセスの科学雑誌「Frontiers in Cell and Developmental Biology」は、混乱を招く画像や哺乳類の精巣および精子細胞を不正確に描写した記事を発表したことで、今週広範な批判を受けました。観察者によれば、多くのイラストはAIによって生成されたと思われ、意味不明な説明が含まれていました。

SNSのプラットフォーム「X」での反発を受け、雑誌は懸念を認め、「読者の厳しい目に感謝します。オープンサイエンスの群衆ソーシングのダイナミクスは、コミュニティのフィードバックによって不正確さを修正する助けとなります」とコメントしました。その後、「JAK/STATシグナル伝達経路に関連する精原幹細胞の細胞機能」というタイトルの記事はウェブサイトから削除され、「AI生成の図に関する懸念が発表後に寄せられました。この論文はFrontiers in Cell and Developmental Biologyの編集および科学基準を満たしていないため、編集長の承認のもとに撤回されました」という内容の撤回通知が添付されました。

撤回にもかかわらず、あるメディアは元の記事を入手して再掲載し、誤字や解剖学的に不正確なイラスト、例えば誇張された鼠経部を持つ「ラット」の描写など、多くのエラーを明らかにしました。

X上の批評家たちは、どうしてこの論文が査読を通過したのかを疑問視しました。著者の郭新宇氏と郝丁軍氏は香港会病院の脊椎外科部門に所属し、寄稿者として廖東氏が名を連ねています。論文はインドの動物栄養学と生理学国立研究所のビンシラ・B・クリシュナン氏、アメリカのノースウェスタン大学医学部のダイ・ジンボ氏によって査読されました。

AIの科学研究および出版における役割について疑問が提起されています。GoogleのAlphaFoldやGNoMEなどのAIツールは研究を進める上で貴重ですが、出版に利用されることで科学的な誠実性が損なわれる可能性があります。研究者がAI生成の画像に依存することで、プロセスを効率化したり手を抜いたり、あるいは怠慢から生じるリスクがあります。

この状況は、出版頻度の圧力によって不完全な研究が公に出回る懸念を浮き彫りにしています。この「発表しなければ滅びる」という考え方は、特に医療や生物学といった重要な分野で科学研究に対する信頼を危うくする恐れがあります。

「Frontiers in Cell and Developmental Biology」は、114,000以上の引用があるにもかかわらず、その査読プロセスの厳格性について疑問を投げかけられています。この事件の影響を考えると、他の雑誌に掲載された論文の信頼性や、AI支援のイラストが科学的正確性に悪影響を与えたかどうかについて、より広範な懸念が生じます。

2007年に神経科学者のカミラ・マークラムとヘンリー・マークラムによって設立された「Frontiers」グループは、230以上の科学的出版物を管理しています。この雑誌は厳密で透明性のある査読を確保することを目指し、査読のためにAIツールを活用しています。2020年のプレスリリースでは、原稿評価の質を高めるため、言語の質、図の整合性、潜在的な盗作の検出を行うAIレビューアシスタント（AIRA）を導入したとされています。

この取り組みにもかかわらず、最近の発表はAIツールの効果における重要なギャップを示し、誤った科学情報の拡散を防ぐ能力について疑問を引き起こしています。メディアはAIを用いて画像生成やテキスト作成を行っていますが、全ての記事は公開前に人間のレビューを受けており、科学の誠実性を確保するための人間による監視の重要性が強調されています。