|
|
一张信息图上是一只阴茎大得离谱的老鼠。另一张信息图上是骨头太多的人类腿部。介绍开头是：“当然，这是您主题的一个可能的介绍”。
这些是最近出现在科学期刊上的人工智能最令人震惊的几个例子，它们揭示了人工智能生成的文本和图像浪潮席卷了学术出版业。
多位追踪研究问题的专家告诉法新社，人工智能的兴起加剧了这个价值数十亿美元的行业中现有问题。
所有专家都强调，如果经过彻底检查和披露，ChatGPT 等人工智能程序可以成为撰写或翻译论文的有用工具。
但最近几起不知为何而逃过同行评审的案件却并非如此。
今年早些时候，一张明显由人工智能生成的、拥有巨大生殖器的老鼠图片在社交媒体上被广泛分享。
该研究成果发表在学术巨头《Frontiers》杂志上，该杂志后来撤回了该项研究。
上个月，另一项研究因一张人工智能图像而被撤回，该图像显示腿部有奇怪的多关节骨骼，类似于手。
虽然这些例子都是图像，但人们认为，2022 年 11 月推出的聊天机器人 ChatGPT 最大程度地改变了全球研究人员展示研究成果的方式。
爱思唯尔 (Elsevier) 发表的一项研究在 3 月份因其介绍而爆红，这显然是一个 ChatGPT 提示，内容是：“当然，这里有一个针对您主题的可能的介绍”。
多位专家告诉法新社，这种令人尴尬的例子很少见，而且不太可能通过最负盛名的期刊的同行评审过程。
造纸厂的倾斜
发现人工智能的使用并不总是那么容易。但有一条线索是，ChatGPT 倾向于使用某些词语。
伦敦大学学院的图书管理员安德鲁·格雷查阅了数百万份论文，寻找诸如细致、复杂或值得称赞等过度使用的词语。
他估计，2023 年将有至少 60,000 篇论文涉及使用人工智能，占年度总数的 1% 以上。
格雷告诉法新社：“到 2024 年，我们将看到数字大幅增加。”
与此同时，据美国组织“撤稿观察”称，去年有超过 13,000 篇论文被撤回，是历史上最多的一次。
撤稿观察组织联合创始人伊万·奥兰斯基向法新社表示，人工智能让科学出版和学术界的不良行为者能够“将大量垃圾论文工业化”。
这些不良行为者包括所谓的造纸厂。
检测科学图像篡改行为的荷兰研究员伊丽莎白·比克 (Elisabeth Bik) 表示，这些“骗子”向研究人员出售论文署名，大量发布质量低劣、抄袭或伪造的论文。
比克告诉法新社，据信所有研究中只有 2% 是由论文工厂发表的，但随着人工智能打开闸门，这一比例正在“爆炸式增长”。
2021 年，学术出版巨头 Wiley 收购陷入困境的出版商 Hindawi 时，这个问题更加凸显。
威利发言人向法新社表示，自那时起，这家美国公司已经撤回了超过 11,300 篇与 Hindawi 特刊相关的论文。
目前，Wiley 已经推出了一项“造纸厂检测服务”来检测人工智能的滥用，而这项服务本身就是由人工智能驱动的。
“恶性循环”
奥兰斯基强调，问题不仅仅在于论文工厂，而在于更广泛的学术文化，这种文化迫使研究人员“不发表就死亡”。
他说：“通过创建这些要求批量生产的系统，出版商创造了 30% 到 40% 的利润率和数十亿美元的利润。”
他说，对论文数量不断增加的无限需求给按照产出量排名的学者带来了压力，形成了“恶性循环”。
许多人使用 ChatGPT 来节省时间——这不一定是坏事。
由于几乎所有论文都是以英文发表的，Bik 表示，人工智能翻译工具对于英语不是母语的研究人员（包括她自己）来说非常有价值。
但也有人担心，人工智能的错误、发明和无意的抄袭可能会逐渐削弱社会对科学的信任。
上周出现了另一个人工智能滥用的例子，一名研究人员发现，一份似乎是他自己的一项研究的 ChatGPT 重写版本发表在了一份学术期刊上。
美国杨百翰大学生物信息学教授塞缪尔·佩恩告诉法新社，他今年 3 月就被要求对该研究进行同行评审。
在意识到这是他自己研究的“100％抄袭”——但文本似乎是由人工智能程序改写的——之后，他拒绝了这篇论文。
佩恩表示，当他发现这篇剽窃作品竟然在其他地方发表时，即在威利出版的新杂志《蛋白质组学》上，他感到“震惊” 。
该文章还未被撤回。
|
|
发表于 2024-8-12 16:13:39