【字体: 时间:2025年09月29日 来源:Clinical Orthopaedics and Related Research庐 4.4

编辑推荐:

  AI生成信件泛滥导致学术期刊调整投稿政策,要求作者提供可验证引用并确保内容深度,强调学术伦理与质量管控的重要性。

  

大约一年半前,在那个古朴的时光里,《临床骨科及相关研究》(Clinical Orthopaedics and Related Research?)的团队与我们一样,热衷于在论文发表后进行交流讨论。这些讨论主要通过读者向编辑部提交的来信形式展开,内容涉及我们在该期刊上发表的研究论文[1]。作者们会回复这些来信。由于发表后交流的重要性,我们一直采取较为开放的态度来处理这些来信:在当时的编辑方针[1]发布时,该期刊的编辑团队已经发表了我们收到的所有来信,每年平均收到近50封来信及其回复。

然而,情况如今已大不相同。截至我们撰写这篇社论(2025年6月),2025年前6个月我们收到的来信数量超过了以往任何一年的总和。这本应是一件值得庆祝的事情,但实际上却成了一个问题:我们对这些来信的分析发现,其中大约有一半可能是由基于人工智能(AI)的大型语言模型(LLMs)如ChatGPT生成的(图1)。

F1
图1:
自2020年以来,《临床骨科及相关研究》每年收到的编辑部来信数量。2025年的数据仅反映了前6个月的统计结果,红色部分表示很可能是由AI生成的来信。(这些数据包括提交给编辑部的来信本身,但不包括回复内容,也不包括被撤回或拒绝的来信。)这篇文章的在线版本配有彩色图片。

我们的编辑政策并未禁止作者使用AI工具,过去我们也认为,利用这些工具进行翻译和语言辅助可能是有益的,因为这有助于促进科学界的交流[2]。不过目前看来,AI在科学写作中的使用主要导致了大量低质量内容的产生。

我们并不天真到认为已经检测出了所有由AI生成或辅助生成的来信,但我们识别出的这些来信有几个共同特征:使用刻板的表达方式和叙述结构,不自然地放置形容词和副词的习惯,以及完全不同作者群体所写的来信之间存在难以解释的相似性。如果不存在其他问题,我们或许还能接受这些情况。然而,这些问题更加严重:比如错误引用的内容、虚构的参考文献、几乎没有任何实质性的见解,以及来信作者及其辅助工具几乎没有尝试与原文作者进行有意义的对话或提出问题。

我们陷入了困境。我们希望促进论文发表后的交流,也明白写作对某些人来说确实很困难,尤其是用第二语言写作的人。但我们非常尊重读者,因此不能让期刊充斥着大量空洞的内容。同时,我们也没有时间和精力去逐一核实那些内容匮乏的来信中的参考文献或引文是否真的是由于AI的“幻觉”效应而产生的。

遗憾的是,这个问题没有简单的解决办法。我们不能仅仅因为使用了AI就拒绝接受来信,毕竟英语并不是大多数人的母语;使用AI进行语言辅助确实可以平衡过去不公平的竞争环境。但是,将AI用于翻译或完善已起草的来信与仅仅让AI生成一篇编辑部来信之间有着本质的区别——前者是为了提高论文质量,而后者只是为了快速在知名期刊上获得发表机会。早在2025年6月,我们就发现同一位作者在同一天提交了两封关于不同主题的来信(一篇关于髋臼截骨术,另一篇关于足部感染)。此后我们也收到了更多类似的案例。虽然有可能有人在这些完全不同的领域既是专家又是爱好者,但我们至今尚未遇到这样的人。

为了验证AI生成来信的容易程度,并验证我们的猜测,我们在2025年6月让ChatGPT(版本4.0)根据一篇我们确认为AI辅助生成的来信内容“撰写了一篇编辑部来信”。在这个实验中,我们没有给ChatGPT提供任何其他指导。

ChatGPT生成的这封来信在结构上与我们收到的AI生成来信有许多相似之处,包括其写作框架和表达方式,以及它只是简单地对比了相关研究,而没有向作者提出具体问题——而这正是编辑部来信的核心目的。此外,这封机器生成的来信还充斥着许多陈词滥调。最重要的是,像许多AI辅助生成的来信一样,其中包含了错误的信息——例如,它将某个“事实”归因于实际上并不存在的参考文献。

这个简单的实验证实了我们的担忧:AI正被用来撰写大量的编辑部来信,而不仅仅是进行翻译。我们认为这种行为是不道德的,因为这些来信的思想、修辞结构和实际内容并非作者本人的观点,而是AI生成的。而且,这么多来信中都包含错误引用的内容,说明作者甚至没有确保AI生成的内容基于事实。如今,任何人都不需要是外科医生或科学家就能为外科期刊撰写编辑部来信;只需要让AI来完成这项工作即可。这种人机合作的方式存在诸多问题,对读者来说最严重的是:由此产生的内容既可预测又枯燥无味,缺乏信息价值。

鉴于这些情况以及读者的利益,我们决定调整编辑部来信的审核流程。今后,对于那些使用AI辅助内容的作者(无论是编辑部来信、《临床骨科及相关研究》的评论文章还是其他类型的文章),我们将要求他们提供每个引用来源的可验证信息,以证实其论点的真实性。这将有助于我们审核参考文献,并减少错误内容传播的风险。只有那些提供此类信息的作者的来信和评论才会被发表。此外,由于编辑这些来信会增加编辑团队的工作负担,我们在决定哪些来信可以发表时将采取更严格的标准。那些不能与原文作者进行有效交流的来信将不予考虑。如之前所述[2, 3),如果在使用这些工具进行写作、编辑或翻译时,必须明确说明所使用的工具及其目的。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号