瑞典布罗斯大学学院的研究人员发现,谷歌学术平台中存在上百篇疑似由AI生成的文章,这些“垃圾科学”对社会知识和公众对科学的信任构成威胁。相关研究报告已发表在哈佛肯尼迪学院的期刊上。AI生成的虚假研究意味着恶意行为者能以低成本制造和传播虚假科学,对社会和科研界构成危险。
研究指出,AI生成的研究增加了证据篡改的风险,这些有问题的文章已传播到多个网络研究基础设施中,即使被撤回也可能已造成潜在影响。此外,AI生成的研究给同行评审系统带来压力,对在线研究人员的信息素养提出更高要求。研究人员强调,谷歌学术平台虽便捷,但缺少质量保证流程,这一问题在科学知识的普及与传播中尤为严峻。