发表SCI被炮轰撤稿！广州医生用AI画出离谱插图，辩称经费有限、没钱润色

小臂和小腿竟然都长了三根骨头？

这不是罕见病例，而是一幅由 AI 绘制的无意义插图。

图源：参考资料 9

让 AI 辅助科研与论文发表已经受到了众多支持，但接连发生的劣质 AI 论文顺利发表事件也让人开始担忧：如何保证 AI 创作的内容得到合理的审核？

允许 AI 进论文，审核机制有待更新

实际上，面对类似的事件，学者们并非认为要完全拒绝 AI，而是强调应该注意 AI 产物的「准确性」。

「在大多数情况下，AI 可能缺乏对科学概念和背景的正确理解。」一位大数据科学家认为，「研究人员必须仔细审查和验证 AI 生成的文本，以确保其准确性和有效性。」[10]

对于上述提到的两篇论文，它们引起广泛批评的主要原因，正是因为论文中使用的是 AI 生成的「错误」插图，论文作者并没有对插图进行有效的校对。

另一个问题则是论文投稿后，杂志方的审查过程。

正如网友评价的那样：「我很惊讶它通过了同行评审。」 [4]

更有网友戏称：「不会审核过程也用了 AI 吧？」[3]

一项研究对排名前 100 的学术期刊对作者使用 AI 的指导范围和内容进行了分析，结果发现，许多期刊的指导「严重不足」，这导致作者们「对该做和不该做的事产生困扰」，同时也对编辑和同行评审的审查过程造成了困难 [11]。

有科学家提出建议：「需要制定更全面的指南来概述 AI 在研究中的可接受用途。同行评审也应更加严格，需要专门识别和审查 AI 生成的内容。」此外，他们还表示，「临床科学家、编辑委员会、AI 开发人员和研究人员之应加强合作，以了解这些工具的功能和局限性。」[12]

而本次事件中， Medicine 杂志的发言人也表示，该杂志正在开展多项措施来改进编辑审查流程，通过与其他领先出版商开展合作，并考虑利用新技术，帮助塑造医学研究评审的未来 [4]。

策划：肯德羊｜监制：carollero

题图来源：参考资料 1、自己做的

参考资料：

[1]https://www.ncbi.nlm.nih.gov/pmc/articles/PMC10994428/

[2]https://journals.lww.com/md-journal/fulltext/2024/07120/assessment_of_the_efficacy_of_alkaline_water_in.91.aspx

[3]https://x.com/MorganPfiffner/status/1808586391959326976

[4]https://retractionwatch.com/2024/07/22/giant-rat-penis-redux-ai-generated-diagram-errors-lead-to-retraction/

[5]https://pubpeer.com/publications/0662F1D2E21480EB8307A1C2DFDE4D?utm_source=Chrome&utm_medium=BrowserExtension&utm_campaign=Chrome

[6]https://www.frontiersin.org/journals/cell-and-developmental-biology/articles/10.3389/fcell.2024.1386861/full

[7]https://www.frontiersin.org/news/2024/02/16/frontiers-statement-concerning-the-article-cellular-functions-of-spermatogonial-stem-cells

[8]https://www.frontiersin.org/guidelines/author-guidelines

[9]https://ai.nejm.org/doi/full/10.1056/AIe2300128

[10]https://www.technologynetworks.com/drug-discovery/articles/ai-in-science-publication-the-good-the-bad-and-the-questionable-385650

[11]https://www.ncbi.nlm.nih.gov/pmc/articles/PMC10828852/

[12]https://www.bmj.com/content/384/bmj.q119.full