根据研究人员的说法，基于大型语言模型的大型聊天机器人无法准确理解犹豫不决的用户在健康行为改变上的动机，但可以为那些致力于采取行动的人提供支持。
大型基于语言模型的聊天机器人有可能鼓励促进健康的行为变化。然而，来自伊利诺伊大学香槟分校的ACTION实验室的研究人员发现，这些人工智能工具无法有效识别某些用户的动机状态，因此未能为他们提供适当的信息。
信息科学博士生Michel Bak和信息科学教授Jessie Chin在《美国医学信息协会杂志》上发表了他们的研究。
生成性对话代理，也被称为基于大型语言模型的聊天机器人，越来越多地应用于医疗保健领域的患者教育、评估和管理。Bak和Chin旨在研究这些聊天机器人是否也能够有效促进行为变化。
Chin解释说，之前的研究表明，现有算法并未准确识别用户动机的不同阶段。因此，她和Bak进行了研究，以评估这些聊天机器人在促进行为变化方面的有效性。大型语言模型，如ChatGPT、Google Bard和Llama 2，被用于训练聊天机器人识别动机状态并提供适当信息以鼓励行为变化。研究人员在25种不同情境中评估了这些模型，针对健康需求，如低身体活动、饮食问题、心理健康挑战、癌症筛查、性传播疾病和物质依赖。这些情境涵盖了行为变化的五个动机阶段，包括对改变的抵抗和缺乏意识。研究确定了五个问题行为的阶段：准备前期、考虑期、准备期、行动期和维持期。研究发现，大型语言模型可以帮助用户识别动机状态，并在他们设定目标并致力于采取行动后提供相关信息。然而，在用户尚不确定或对改变行为感到犹豫的初始阶段，聊天机器人可能无法识别这些动机状态。Chin解释说，语言模型难以准确检测动机，因为它们被设计成根据相关性来理解用户的语言，而不能理解考虑改变但仍不确定与完全致力于采取行动之间的区别。她还指出，用户的查询形式在语义上并未表示他们的动机水平，这使得仅凭语言来辨别他们的动机状态变得困难。
如果有人想改变他们的行为，大型语言模型可以提供有价值的信息。然而，当个人表示他们正在考虑改变但尚未准备采取行动时，根据Chin的说法，大型语言模型很难理解这一区别。研究发现，当人们对改变习惯存在抵抗时，大型语言模型无法有效提供帮助他们理解其问题行为及其潜在原因和后果的信息，以及环境如何影响他们的行为。例如，如果有人抵抗提高自己的身体活动水平，这些模型在提供有用指导方面显得力不从心。
提供信息以帮助个人理解久坐生活方式可能带来的潜在负面影响，通过情感参与比单纯促进加入健身房更有效激励他们。根据Bak和Chin的说法，当语言模型未能与用户的动机互动时，它们未能产生对行为改变的准备和情感驱动。
然而，一旦用户做出行动的决定，大型语言模型能够提供足够的信息，帮助他们朝着目标前进。已经开始改变自己行为的个人在替代问题习惯方面得到了指导。研究发现，个人可以通过使用大型语言模型来帮助他们改变行为并寻求他人的支持。然而，基于这些模型的聊天机器人未为那些已经在努力改变自己行为的人提供有关如何利用奖励系统保持动力或如何减少可能导致行为复发的环境刺激的信息。研究人员发现，尽管这些聊天机器人提供有关获得外部帮助（例如社会支持）的资源，但在控制环境以消除强化问题行为的刺激方面缺乏信息。
根据研究人员的说法，大型语言模型目前可能无法理解自然语言对话中的动机状态，但在个人高度动机并准备采取行动时，它们有潜力支持行为变化。“未来的研究将集中在微调这些模型，以识别语言提示、信息搜索模式和健康的社会决定因素，以更好地理解用户的动机状态并向他们提供具体知识以帮助改变行为，”Chin说。
