作为一种沟通形式至关重要。这项研究由斯坦福大学、加利福尼亚大学伯克利分校和加利福尼亚大学圣巴巴拉分校的研究人员进行,建议尽管人工智能生成的回应在让人们感到被倾听方面可能有效,但对人工智能的潜在偏见降低了其被感知的有效性。
这项研究的发现突显了人类与人工智能之间复杂的关系,以及进一步研究和开发以应对与人工智能沟通相关的偏见和局限性的必要性。研究还强调了考虑人工智能生成的消息对人类接受者的心理和情感影响的重要性,以及在各种上下文中依赖人工智能进行沟通的伦理含义。
随着今天快节奏的世界中同情连接的持续下降,解决人类心理需求的重要性变得愈发相关。许多人正在经历被倾听和验证的未满足需求。
来自南加州大学马歇尔商学院的殷怡丹、贾楠和谢丽尔·瓦克斯拉克进行了研究,以探索缺乏人类意识和情感体验的人工智能是否能有效地让人们感到被倾听和理解。
“在日益严重的孤独流行的背景下,我们的动机之一是确定人工智能是否真的能帮助人们感到被倾听,”论文的作者表示。主要作者殷怡丹是南加州大学马歇尔商学院劳埃德·格里夫创业研究中心的博士后研究员。
研究小组的发现不仅强调了人工智能增强人类理解和沟通能力的可能性,还提出了被理解的重要性和利用人工智能的优势促进人类福祉的最有效方法的基本问题。
通过实验和随后的后续研究,“我们发现,尽管人工智能在提供情感支持方面比未经培训的人类反应者显示出更大的潜力,但对人工智能回应的贬值构成了挑战。”贾楠,战略管理副教授表示,有效利用人工智能的能力带来了重大挑战。南加州大学马歇尔商学院的研究团队研究了人们在收到人工智能或人类回应后的情感和感知。调查涉及实际上由人工智能或人类生成的信息,参与者被告知了消息的真实来源。团队发现,无论消息的实际来源如何,人们的感受和认知都受到他们认为消息是由人工智能还是人类生成的影响。谢丽尔·瓦克斯拉克,南加州大学马歇尔商学院管理与组织副教授提到,消息的内容和感知发送者的影响力。她表示,当人们收到来自人工智能的信息时,他们感到更被认可,但如果他们认为消息来自人工智能,这反而让他们感到减少了被认可。
在研究中,殷怡丹发现了对人工智能的偏见。尽管人工智能是有帮助的,但人们普遍并不喜欢它。
瓦克斯拉克补充说,关于人工智能的看法可能会随着时间的推移而改变。她还指出,他们研究中观察到的两个效应相当有趣。收到来自人工智能的信息的影响在大小上与当消息被识别为来源于人工智能时的回应偏见相似。因此,这两种效应本质上相互抵消。参与者还体验到了“奇异谷”反应,当他们意识到同情回应来自人工智能时,感到一丝不适。这突显了人工智能与人类之间互动的情感复杂性。此外,调查还询问参与者关于他们整体上愿意与人工智能互动的态度,这有助于调节一些效果,根据瓦克斯拉克的说法。
“对人工智能持更积极态度的个人不会体验到相同的负面反应,这一点很有趣,因为它引发了一个问题,即人们对人工智能的态度是否会随着时间的推移变得更积极,”她说。“这还有待观察,但当人们变得更熟悉和体验人工智能时,观察这一过程的展开将是令人着迷的。”
人工智能提供更好的情感支持
这项研究引起了人们对重要细节的关注。人工智能引发的反应与乐观情绪增加和痛苦减少相关,表明对接受者有积极的情感影响。人工智能在提供支持方面显示出比人类更具系统性的方法。
研究发现,人工智能能够提供情绪支持,而不会以实际建议压倒个人。殷怡丹指出,人工智能更擅长使用同情和验证策略,这在以往的研究中已被证明是有效的,这一点令人讽刺。这表明人类可能能够从人工智能中学习如何在他人抱怨某事时提供认可。
研究强调了人工智能和人类回应各自不同的优点,而不是取代人类。这项先进的技术有潜力使人类能够利用人工智能作为提供支持的有价值工具。
帮助人们相互理解并学习如何以情感支持和认可作出回应。
该研究的结果对人工智能在社交场合的整合具有重要意义。人工智能的能力可能为社交支持提供一种具有成本效益和可扩展的解决方案,尤其是对那些无法接触到提供这种支持的个体。然而,研究团队强调了仔细考虑人工智能的呈现和感知的重要性,以最大化其优势。