在一项新研究中，研究人员探讨了人工智能（AI）如何增强知识工作环境中的表现和信任。他们发现，当AI系统提供实时反馈时，表现和信任度都有所提高。
在当今经济中，许多工人已从体力劳动转向知识工作，这一转变主要是由技术进步推动的，这一领域的工人面临着管理非例行工作的挑战，而这种工作本质上是不可预测的。自动化干预可以帮助工人理解他们的工作，并提升表现和信任。在一项新研究中，研究人员探讨了人工智能（AI）如何增强知识工作环境中的表现和信任。他们发现，当AI系统提供实时反馈时，表现和信任度都有所提高。
这项研究由卡内基梅隆大学的研究人员进行，发表在《人类行为中的计算机》杂志上。该文章是一个特刊的一部分，题为“社会桥梁：对科技信任的跨学科视角”，其中来自多个学科的研究人员探索人类与技术之间信任的机制和功能。
“我们的发现挑战了传统的担忧，即AI驱动的管理促进了不信任，并展示了AI如何通过提供更大的透明度和与工人期望的一致性来补充人类工作，”参与该研究的卡内基梅隆大学泰珀商学院的组织行为学教授安妮塔·威廉姆斯·伍利（Anita Williams Woolley）建议。“这些结果对越来越依赖数字和算法工作环境的行业中的AI驱动表现管理具有广泛的影响。”
机器学习和AI的应用一贯证明能够执行要求高的认知任务，只要这些任务能够被例行化。但是在非例行工作中，AI的能力（例如，旨在便于管理者监控生产力的能力）往往适得其反，带来了敌意而不是效率。
在这项研究中，研究人员试图确定反馈频率和任务不确定性如何相互影响工人对算法可信度的看法。在一项随机对照实验中，140名男女（主要是白人，年龄中位数为39岁）在一个在线模拟的家庭护理环境中执行看护任务。
个体被随机分配接受或不接受自动化实时反馈（即，在任务执行过程中提供的反馈），并在高或低不确定性的条件下进行工作。在完成任务后，他们根据实际表现获得了一项算法决定的评分。
实时反馈通过提升工人对自己工作质量的感知（即，对结果的了解）并减少他们对最终评估的惊讶程度，提高了对表现评分的可信度。这反过来增强了工人对AI生成表现评分的信任，尤其是在不确定性高的非例行工作环境中。
在研究的局限性中，作者指出，他们的发现可能无法推广到所有情况，部分原因是研究参与者并非从看护者人口中抽取，并且模拟任务并未代表实际的看护工作。此外，该研究没有考察个体差异的作用，例如尽责程度和专业技能。
“非例行工作长期以来对传统管理策略提出了挑战，而算法管理系统的发展则提供了一个开始解决这些挑战的机会，”卡内基梅隆大学泰珀商学院组织行为与理论博士生艾伦·S·布朗（Allen S. Brown）表示，他是该研究的负责人。“我们确定了一种新的框架来审视管理干预，这一框架使得表现标准更为透明，并提高工人对结果的认知，尤其在当今新兴的工作环境中具有特别的相关性。”
该研究得到了美国国家科学基金会AI-CARING项目的资助。
