人工智能正在以如此迅猛的速度发展，以至于曾经只属于科学幻想的推测性道德问题突然变得真实而紧迫，芬兰哲学家和心理学研究员弗兰克·马特拉（Frank Martela）表示。马特拉的最新研究发现，生成式人工智能满足自由意志的三项哲学条件——拥有目标导向的代理能力、做出真实选择的能力以及对其行为的控制能力。这一发展将我们推到了人类历史的一个关键点，因为我们赋予人工智能更多的权力和自由，可能会出现在生死攸关的情况中。
马特拉的最新研究发现，生成式人工智能满足自由意志的三项哲学条件——拥有目标导向的代理能力、做出真实选择的能力以及对其行为的控制能力。该研究将于周二在《人工智能与伦理》杂志上发表。
该研究借鉴了哲学家丹尼尔·丹尼特（Daniel Dennett）和克里斯蒂安·利斯特（Christian List）所解释的功能性自由意志的概念，考察了两个基于大型语言模型（LLMs）的生成式人工智能代理：Minecraft中的Voyager代理和具有现代无人机认知功能的虚构“斯皮特尼克”（Spitenik）杀手无人机。马特拉表示：“这两个似乎都满足自由意志的三项条件——对于最新一代的人工智能代理，我们需要假设它们拥有自由意志才能理解它们的工作方式并能够预测它们的行为。”他补充道，这些案例研究广泛适用于目前使用LLMs的生成代理。
这一发展将我们推到了人类历史的一个关键点，因为我们赋予人工智能更多的权力和自由，可能会出现在生死攸关的情况中。无论是自助机器人、自驾车还是杀手无人机——道德责任可能会从人工智能开发者转移到人工智能代理本身。
马特拉补充道：“我们正在进入新领域。自由意志的拥有是道德责任的关键条件之一。虽然这不是一个充分条件，但这更接近于人工智能对其行为承担道德责任。”由此可见，我们如何“养育”人工智能技术的问题已变得真实而紧迫。
马特拉表示：“除了经过编程拥有道德指南针，人工智能并没有道德 compass。但是，您给予人工智能的自由越多，就越需要从一开始就给它一个道德指南针。只有这样，它才能做出正确的选择。”
最近由于潜在的有害谄媚倾向而撤回最新的ChatGPT更新，标志着更深层次的伦理问题必须得到解决。我们已经超越了教导孩子简单道德的阶段。
马特拉表示：“人工智能正越来越接近于成年——它越来越需要在成人世界的复杂道德问题中做出决策。通过指示人工智能以某种方式行为，开发者也将自己的道德信念传递给人工智能。我们需要确保开发人工智能的人具备足够的道德哲学知识，以便能够教他们在困难情况下做出正确的选择。”
