大型语言模型（LLMs）最近取得了显著进展，越来越成为我们日常活动中不可或缺的部分，特别是通过像ChatGPT这样的工具。《自然人类行为》上发表的一篇文章探讨了LLMs在我们集体决策和解决问题能力方面的潜在优势和缺点。这项研究由来自哥本哈根商学院和柏林马克斯·普朗克人类发展研究所等机构的28位科学家组成的团队开展，为研究人员和政策制定者提供了指导。目标是确保LLMs支持而不是阻碍人类的合作和智能。
大型语言模型（LLMs）最近迅速发展，正在通过像ChatGPT这样的应用成为我们日常生活中的重要组成部分。《自然人类行为》上最近发表的一篇文章讨论了使用LLMs带来的机会和挑战，特别是在我们进行集体思考、决策和解决问题的能力方面。一个由来自哥本哈根商学院和柏林马克斯·普朗克人类发展研究所的专家领导的跨学科研究团队提出了对研究人员和政策制定者的建议，以确保LLMs的设计能够增强人类集体智能，而不是减弱它。
如果你对“LLM”的含义感到不确定，你可以快速在线搜索或咨询同事。在日常生活中，我们经常利用集体智能——群体的共享知识。通过结合个人专长，我们的集体智能使我们能够取得超越任何单个个体（甚至专家）能实现的结果。这种智能在从小型工作小组到大型在线社区（如维基百科）以及更广泛的社会的各种团体的成功中至关重要。
LLMs是利用大型数据集和深度学习来分析和生成文本的人工智能系统。文章详细说明了LLMs如何能够增强集体智能，并探讨它们对团队和社会的潜在影响。“随着LLMs越来越多地影响我们获取信息和做出决策的方式，找到利用其优势与保护其风险之间的平衡非常重要。我们的文章概述了LLMs如何增强人类的集体智能，同时讨论可能的负面结果，”柏林马克斯·普朗克人类发展研究所的合著者和主任拉尔夫·赫特维希解释道。
研究人员强调了LLMs的几个好处，例如改善小组讨论的可及性。它们可以通过翻译服务和写作支持消除语言障碍，使来自不同背景的个人在交谈中平等地参与。此外，LLMs可以加速创意生成，帮助形成观点，概括不同观点，并帮助达成共识。
然而，使用LLMs也存在显著风险。例如，它们可能降低个人在维基百科和Stack Overflow等知识共享平台上贡献的意愿。对专有模型的依赖增加可能威胁到我们知识资源的开放性和多样性。另一个担忧是可能出现虚假共识和多元无知，即错误认为大多数人对某一特定规范达成一致。“由于LLMs是从在线可用的数据中学习的，因此存在忽视少数观点的风险，导致意见一致性的扭曲和某些观点的边缘化，”文章的主要作者、哥本哈根商学院的助理教授及MPIB的副研究科学家杰森·伯顿指出。
“这篇文章的重要性在于展示了需要主动思考LLMs如何影响在线信息格局，从而影响我们的集体智能——无论是积极的还是消极的，”合著者、伦敦大学学院的助理教授约书亚·贝克总结道。作者倡导在LLM开发中提高透明度，敦促披露训练数据来源，并建议LLM开发者接受外部评估。这种方法将有助于明确LLMs的开发过程，并尽量减少潜在的有害后果。
此外，文章提供了与LLMs相关主题的简明信息框，强调集体智能在训练这些模型中的作用。作者讨论了如何确保在LLM开发期间代表性多样性。两个研究重点的信息框阐明了LLMs如何模拟人类集体智能，并提出了关键研究问题，例如如何防止知识同质化，以及在与LLMs一起创造集体结果时如何分配信任和责任。
要点：
- LLMs正在改变人们搜索、利用和交流信息的方式，这可能影响团队和整个社会的集体智能。
- 尽管LLMs为增强集体智能提供了新机会，但它们也带来了可能威胁信息多样性的风险。
- 为了确保LLMs增强而不是削弱集体智能，必须对模型的技术细节保持透明，建立监测机制。
参与机构
- 哥本哈根商学院数字化系，弗雷德里克斯贝，丹麦
- 马克斯·普朗克人类发展研究所适应性理性中心，柏林，德国
- 马克斯·普朗克人类发展研究所人与机器中心，柏林，德国
- 汉堡大学心理学系，柏林，德国
- 巴塞尔大学认知与决策科学中心，巴塞尔，瑞士
- 谷歌DeepMind，伦敦，英国
- 伦敦大学学院管理学院，伦敦，英国
- Nesta集体智能设计中心，伦敦，英国
- 波恩—亚琛国际信息技术中心，波恩大学，波恩，德国
- 拉马尔机器学习和人工智能研究所，波恩，德国
- 集体智能项目，旧金山，加利福尼亚，美国
- 普林斯顿大学信息技术政策中心，普林斯顿，新泽西，美国
- 普林斯顿大学计算机科学系，普林斯顿，新泽西，美国
- 都柏林大学学院社会学系，都柏林，爱尔兰
- 都柏林大学学院公共政策格里研究所，都柏林，爱尔兰
- 麻省理工学院斯隆管理学院，剑桥，马萨诸塞，美国
- 伦敦大学伯克贝克心理科学系，伦敦，英国
- 伯林科技大学智能科学卓越集群，柏林，德国
- 都柏林大学学院信息与通信学院，Insight SFI数据分析研究中心，都柏林，爱尔兰
- 牛津大学互联网研究所，牛津，英国
- 斯坦福大学审议民主实验室，斯坦福，加利福尼亚，美国
- 卡内基梅隆大学泰珀商学院，匹兹堡，宾夕法尼亚，美国
