自动驾驶车辆有潜力彻底改变城市交通，但获得乘客的信任是一个重大障碍。及时和个性化地解释自动驾驶车辆的行为可以帮助弥补这一信任差距。为了解决这个问题，一组研究人员开发了一个名为TimelyTale的数据集，旨在捕捉真实驾驶场景和乘客独特的解释需求。观察这个多模态数据集如何增强车辆内的解释生成，最终提升乘客对自动驾驶交通的信任和信心，将是有益的。
自动驾驶车辆的到来可能为城市出行带来多重优势，例如提高安全性、减少交通拥堵和改善无障碍性。这些车辆还为司机提供参与非驾驶活动（NDRTs）的机会，例如在旅行中放松、工作或享受娱乐。然而，乘客的有限信任阻碍了它们的广泛采用。为自动驾驶车辆的决策提供清晰、简明的解释可以通过提供控制感和缓解负面体验来增强信任。
当前的可解释人工智能（XAI）方法主要服务于开发人员，强调高风险情况或详细解释——这些方法可能不适合日常乘客。为了解决这个问题，需要以乘客为中心的XAI模型，以理解在真实驾驶场景中所需信息的类型和时机。
为了满足这一需求，由韩国光州科学技术院（GIST）金承俊教授领导的一组研究团队探讨了乘客在实际驾驶环境中的解释需求。他们推出了TimelyTale数据集，该数据集由传感器数据组成，旨在为乘客提供及时且适当上下文的解释。金教授表示：“我们的研究将自动驾驶领域的XAI焦点从开发者转移到了乘客自身。我们创建了一种方法，以捕捉乘客在车辆内的实际解释需求，并设计出生成及时和上下文敏感解释的方法。”
他们的研究结果发表在2023年9月27日和2024年9月9日的《ACM互动、移动、可穿戴和无处不在技术文集》中。尊敬的作者在UbiComp 2024上因其开创性研究“什么和何时需要解释?: 在高度自动化车辆上的解释的道路评估”获得了“杰出论文奖”。
研究人员首先通过增强现实研究了在真实驾驶条件下，不同类型的视觉解释（关注感知、注意力或两者的结合）及其时机如何影响乘客体验。他们的发现表明，仅分享车辆的感知状态就能够在不让乘客信息过载的情况下增强信任、感知安全与情境意识。他们还指出，传达交通风险概率证明是确定何时提供解释的最有效方法，特别是在乘客感到信息过载时。
基于这些洞察，研究人员创建了TimelyTale数据集。该数据集包括来自乘客在真实驾驶情况下使用各种传感器收集的外部感知数据（有关环境的视觉和听觉）、本体感知数据（与身体位置和运动相关）以及内感知数据（与身体感受如不适相关）。重要的是，这项研究还探讨了可打断性这一概念，涉及乘客将注意力从NDRTs转回到重要驾驶信息上。这一方法成功识别了乘客请求解释的时机和频率，包括他们在各种驾驶环境中所寻求的具体解释。
通过这种方法，研究人员开发了一个机器学习模型，以预测提供解释的最佳时机。此外，作为概念验证，他们进行了城市范围的建模，以生成针对不同驾驶区域的文本解释。
金教授评论道：“我们的研究为未来几年自动驾驶车辆的更大接受和利用铺平了道路，可能会改变城市交通和个人出行。”
