科学家指出，全面理解与人工智能（A.I.）相关的危险仍然是一项挑战。他们提倡采用复杂系统视角，以有效评估和应对这些风险，特别是考虑到人工智能与社会之间长期的不确定性和复杂互动。
随着人工智能越来越多地影响我们生活的各个方面，专家们对其潜在危害表示日益关注。部分威胁是直接的，而其他威胁可能在几个月甚至几年后才会显现。专家在《皇家学会》期刊中提到，建立对这些危险的统一理解仍然很困难。他们建议使用复杂系统的方法，以更准确地评估和减轻这些风险，考虑到人工智能与社会之间的长期不确定性和复杂关系。
“要理解与人工智能相关的风险，我们必须意识到技术与社会之间复杂的动态关系。理解影响我们选择和行为的复杂、不断演变的系统是至关重要的，”文章的共同作者之一Fariba Karimi解释道。Karimi是复杂科学中心（CSH）算法公平研究团队的负责人，同时也是格拉茨科技大学社会数据科学的教授。
“我们不仅需要考虑实施哪些技术和如何实施，还需要考虑如何调整社会环境，以利用积极的可能性。关于经济政策的讨论应该融合人工智能的潜在好处和危险。”研究的主要作者、CSH的Dániel Kondor补充道。
更广泛和长期的危险
发表在哲学交易A上的文章指出，现有的风险评估框架通常专注于直接、特定的危害，例如偏见和安全问题。“这些框架往往忽视可能由人工智能技术的广泛使用及其与运行社会环境的互动所带来的更广泛、长期的系统性威胁，”Kondor表示。
“在我们的论文中，我们的目标是平衡对算法的短期看法与对其社会影响的长期视角。这涉及理解人工智能的即时效应和系统效应，”Kondor补充道。
现实世界的影响
为了突出人工智能技术的潜在危险，研究人员考察了英国Covid-19疫情期间的一个案例，当时使用了一种预测算法来进行学校考试。根据研究，这种新方法被认为比让教师评估学生的表现“更客观，因此更公平，因为它依赖于对过去学生表现的统计分析”。
然而，该算法的实施暴露了重大问题。“一旦评分算法开始使用，不平等现象显而易见，”独立研究员兼共同作者Valerie Hafez指出。“来自弱势社区的学生在尝试解决评分膨胀的问题时受到不成比例的影响，有40%的学生得到的分数低于他们合理期望的水平，”她补充道。
Hafez指出，咨询报告中的反馈显示教师所感知的长期风险——即获得低于应有水平的分数所带来的后果——与算法设计者所看到的风险之间存在脱节，后者更关注评分膨胀、对高等教育的压力及对学生实际能力的信任下降。
规模和背景
研究人员指出，该情景突显了部署大规模算法解决方案相关的几个关键挑战。“一个重要的考虑因素是规模和上下文，因为算法具有扩展的能力：它们可以在不同的上下文中应用，即使这些上下文大相径庭。开发的原始背景并不会简单消失；它会影响后续的所有应用，”Hafez解释道。
“长期风险不仅仅是短期风险的累积；它们可以随着时间的推移呈指数增长。然而，通过计算模型和仿真，我们可以获得有价值的洞见，更有效地评估这些动态风险，”Karimi补充道。
计算模型和社区参与
这代表了研究人员提出的理解和分析与人工智能技术相关风险的方法之一，无论是近期还是远期。“计算模型——例如那些分析人工智能对社交网络中少数族裔代表性影响的模型——可以说明人工智能系统中的偏见如何形成反馈循环，从而加剧社会不平等，”Kondor澄清道。这些模型用于模拟潜在风险，提供从传统评估方法难以得出的洞见。
此外，作者强调在风险评估过程中，引入公众和来自不同领域的专家的重要性。能力小组——由不同观点的小型多样团队组成——对增强民主参与至关重要，并确保风险评估反映那些最受人工智能技术影响者的观点。
“一个更广泛的关注是促进社会韧性，这可以增强与人工智能相关的讨论和决策的有效性，同时避免错误。最终，社会韧性可能取决于许多与人工智能不直接相关的问题，”Kondor反思道。鼓励参与性决策可能是增强韧性的一个重要方面。
“一旦我们开始将人工智能系统视为社会技术的，我们就无法将受这些系统影响的个人与其‘技术’组件分开。这样做会剥夺他们影响施加于他们的分类系统的机会，从而否认这些个人对塑造满足他们需求的系统的贡献权力，”Hafez，奥地利联邦总理府的人工智能政策官员，强调道。
研究信息
题为“复杂系统视角在评估人工智能风险中的应用”的研究，由Dániel Kondor、Valerie Hafez、Sudhang Shankar、Rania Wazir和Fariba Karimi撰写，已发表在哲学交易A上，并可在线访问。
