代理、聊天机器人和其他基于人工智能（AI）的工具在日常生活中被越来越多的人使用。所谓的大语言模型（LLM）代理，如ChatGPT和Llama，已经在生成的回答中表现出令人印象深刻的流利度，但常常提供令人信服却不正确的信息。东京大学的研究人员将这个问题与一种名为失语症的人类语言障碍进行了类比，失语症患者可能说得很流利，但所说的话往往毫无意义或难以理解。这种相似性可能指向对失语症更好的诊断形式，甚至为寻求改进LLM代理的AI工程师提供见解。
这篇文章是由一个人写的，但在许多领域，使用文本生成AI的情况正在上升。随着越来越多的人开始使用和依赖这些工具，确保这些工具向用户提供正确和连贯的响应和信息的需求日益增加。许多熟悉的工具，包括ChatGPT和其他工具，在它们所提供的内容上看起来非常流利。但由于它们生成的内容中有大量本质上是虚构的内容，用户并不总是能依赖这些回答。如果用户对相关主题领域没有足够的知识，他们很容易误以为这些信息是正确的，尤其是考虑到ChatGPT等展示出的高度自信。
“你不能不注意到一些AI系统在表达上可能显得流利，但仍然会常常产生显著错误，”东京大学国际神经智能研究中心（WPI-IRCN）的高松和弘教授说。“但让我和我的团队印象深刻的是，这种行为与韦尼克失语症患者的行为之间存在相似性，这种人说得很流利但并不总是有意义。这促使我们思考这些AI系统的内部机制是否可能与受到失语症影响的人脑相似，如果是这样，那可能意味着什么。”
为了探索这个想法，团队使用了一种称为能量景观分析的方法，这是一种最初由物理学家开发的技术，旨在可视化磁金属中的能量状态，但最近被调整用于神经科学。他们检查了不同类型失语症患者的静息脑活动模式，并将其与几个公开可用的LLM的内部数据进行了比较。在分析中，团队确实发现了一些显著的相似性。这些AI模型中数字信息或信号的移动和操作方式与某些类型失语症患者的大脑信号的行为非常接近，包括韦尼克失语症。
“你可以想象能量景观是一种表面，上面有一个球。当有一个曲线时，球可能会滚下并停驻，但当曲线很浅时，球可能会混乱地滚动，”高松说。“在失语症中，球代表一个人的脑状态。在LLM中，它代表根据其指令和内部数据集的持续信号模式。”
该研究有几个影响。对于神经科学，它提供了一种基于内部脑活动而不是仅仅基于外部症状对失语症等疾病进行分类和监测的可能新方法。对于AI，它可能导致更好的诊断工具，帮助工程师从内部改善AI系统的架构。尽管研究人员发现了相似性，但他们仍然提醒要谨慎，不要做过多假设。
“我们并不是说聊天机器人有脑损伤，”高松说。“但它们可能被锁定在某种刚性内部模式中，限制了它们灵活调用储存知识的能力，就像在接收性失语症中一样。未来的模型是否能够克服这种限制还有待观察，但理解这些内部相似性可能是走向更智能、更可信的AI的第一步。”
