关于ChatGPT威胁学术论文撰写与发表的伦理讨论
关于ChatGPT威胁学术论文撰写与发表的伦理讨论
王婷， 聂冰，Brady Lund, Nishith Mannuru, 王子昂，Somipam Shimray
2022年11月，OpenAI推出了一款使用自然语言处理并响应用户输入内容的聊天机器人，即ChatGPT。截止至2023年3月，ChatGPT在全球的用户超过11亿 （Ruby， 2023）。与其他聊天机器人相比，ChatGPT的优势在于其基于目前最著名的、拥有广泛数据存储的大型语言模型GPT-3，可以回答简单的问题以及回应更复杂的学术请求，例如学术写作。GPT可以在不到一分钟的时间内完成一篇几百字的学术论文。科研人员可以将论文主题划分为子主题，并让GPT撰写相关部分，整合分主题内容以创建整篇文章。该应用可能将撰写学术论文所需的时间从几个小时减少到几分钟，甚至完全取代科研人员和相关专业的作者在撰写科研论文的工作。因此，ChatGPT和相关技术被普遍认为是可以彻底改变学术界和学术出版的颠覆性创新。进而，对该技术的伦理讨论，例如版权归属、引用参考、和马太效应，以确保其在学术研究和学术出版中合理使用是至关重要的。
我们的研究表明，人工智能驱动的语言模型（如GPT-4）中可能存在的偏见对科学的完整性构成了重大威胁—基于大量来自互联网的数据训练的模型可能会导致数据的偏差。例如，如果数据源不完整或存在偏差，那么这种偏差将反映在模型的输出中。此外，如果用于训练模型的数据单一，最终模型可能会偏向于某些群体或观点。使用有偏见的语言模型导致的现有偏见和误解的永久化会对学术研究产生深远的影响。
—使用有偏见的语言模型导致的现有偏见和误解的永久化会对学术研究产生深远的影响。—
由于人工智能生成的内容的版权归属复杂且涉及方面广，法律专家和政策制定者需要仔细审度这个问题。随着GPT-4等人工智能驱动的语言模型变得越来越复杂，可以生成与人类写作没有区别的文本，澄清谁拥有知识产权的问题变得更加紧迫。目前，数据源缺乏透明性导致识别文本被剽窃的程度的困难增加。
从引用参考的方面来看，ChatGPT所生成的学术论文缺少参考文献，这可能会导致学术出版的混乱—研究的完整性和可信度会因为缺少适当的引用而遭受质疑。更严重的问题在于当ChatGPT被要求写一篇带有引用参考的论文时，它通常会提供一些实际上不存在的文章而造成虚假引用的问题。此外，ChatGPT可能会依据引用次数等因素来决定引用哪些出版物，这可能会加剧马太效应（拥有高引用次数和高影响力的文章和研究人员继续获得更多的引用，而不太知名的文章和研究人员则难以获得认可和引用）。在学术写作的背景下，ChatGPT依据已有的论文和研究者的需求生成论文的情况可能会加剧学术研究中缺乏创新和与实践脱节的问题。
考虑到人工智能生成的内容带来的独特挑战，很有必要制定新的法律框架和准则以解决如上提及到的问题。这一过程包括澄清现有的版权法以解释机器学习算法和数据训练的使用，或建立新的法规以确保人工智能生成的内容得以追溯其来源。 ChatGPT及相关技术可能对学术界、学术研究和出版产生重大影响。更重要的是，这些技术启发了关于学术界和研究人员使用ChatGPT所带来影响的伦理讨论。研究人员、出版商、和人工智能驱动的语言模型开发者之间的合作有助于建立指导方针和协议以确保该技术被道德地、透明地、以及负责任地使用。缺少相关的政策可能破坏公众对科学的信任，从而对未来的研究和创新产生深远的负面影响。
参考文献
Ruby, D. (2003). 57+ ChatGPT statistics for 2023 (New data + GPT-4 facts). https://www.demandsage.com/chatgpt-statistics/#:~:text=ChatGPT%20currently%20has%201.16%20billion,billion%20users%20within%20two%20months.
Lund, B. D., Wang, T., Mannuru, N. R., Nie, B., Shimray, S., & Wang, Z. (2023). ChatGPT and anew academic reality: AI-written research papers and the ethics of the large language models in scholarly publishing. Journal of the Association for Information Science and Technology, 74(5), 570-581. https://doi.org/10.1002/asi.24750
APA引用格式： Wang, T, Nie, B, Lund B, et al. (2023, June 14). 关于ChatGPT威胁学术论文撰写与发表的伦理讨论. Information Matters, Vol. 3, Issue 6. https://informationmatters.org/2023/05/关于ChatGPT威胁学术论文撰写与发表的伦理讨论/
