人工智能（AI）最近引起了显著的兴趣激增。然而，和人类一样，理解AI模型的决策过程是具有挑战性的。这就是可解释人工智能（XAI）的作用所在，它提供了关于这些模型如何得出结论的洞察。研究人员开始利用XAI深入分析预测性AI模型，可能会推动抗生素开发的进展。
AI最近获得了巨大的关注，被应用于各种应用程序，例如自动驾驶汽车、电子邮件语法检查甚至新药设计。然而，弄清楚AI如何得出结论可能相当复杂。可解释人工智能（XAI），作为这项技术的一个分支，旨在阐明AI决策背后的理由。研究人员目前正在应用XAI，不仅为了更深入地审查预测性AI模型，还为了更深入地探索化学研究。
研究结果将在即将举行的美国化学学会（ACS）秋季会议上进行展示。
AI的广泛应用使其成为现代技术的重要组成部分。然而，许多AI模型作为黑箱运行，使得对其输出背后的过程感到不确定。这种缺乏透明度可能会引发怀疑，尤其是在处理潜在的药物分子时。“作为科学家，我们重视证明的需要，”曼尼托巴大学的化学教授瑞贝卡·戴维斯表示。“如果我们能够开发出能够阐明AI如何做出选择的模型，它可能会增加科学家和公众对这些方法的信任。”
提供这种清晰度的一种有效方法是通过XAI。XAI中的机器学习算法使我们能够窥见AI决策过程的幕布。在众多背景下，XAI可能是有益的，但戴维斯的研究特别调查了其在药物发现AI模型中的应用，尤其是用于预测新的抗生素候选药物。考虑到成千上万的潜在药物候选者为了批准一种新药而经历的严格筛选过程，以及抗生素耐药性持续存在的挑战，准确且高效的预测模型是至关重要的。“我想利用XAI获得关于我们需要教计算机化学的信息的洞察，”戴维斯实验室的研究生亨特·斯图尔姆表示，他将在会议上展示这些发现。
研究团队开始时将已知药物分子的数据库输入一个旨在预测不同化合物生物效应的AI模型。然后，他们利用德国卡尔斯鲁厄理工学院的合作者帕斯卡尔·弗里德里希创建的XAI模型，分析哪些特定的药物分子特征影响了AI的预测。这种方法阐明了为什么某些分子被模型视为活跃或不活跃，帮助戴维斯和斯图尔姆理解AI认为重要的因素以及它是如何对各种化合物进行分类的。
通过他们的工作，研究人员发现XAI可以揭示人类可能忽视的因素，因为它能够同时处理远比人类思想更多的变量和数据点。例如，在评估一组青霉素分子时，XAI揭示了一些意想不到的发现。“许多化学家传统上认为青霉素的核心是其抗生素作用的核心，”戴维斯解释道。“但XAI指出，与核心相关的结构是其分类的关键元素，而不是核心本身。这可能解释了为什么某些具有该核心的青霉素衍生物表现出有限的生物活性，”她说。
除了识别重要的分子特征外，研究团队希望利用XAI增强预测性AI模型。“XAI揭示了算法在抗生素活性方面认为重要的内容，”斯图尔姆澄清道。“这些信息可以训练AI模型以聚焦在重要的方面上，”戴维斯补充道。
接下来，研究团队计划与一个微生物学实验室合作，合成和评估一些由精细化AI模型预测具有抗生素特性的化合物。从长远来看，他们希望XAI能够协助化学家开发改良或甚至新型的抗生素化合物，这可能对抗生素耐药病原体至关重要。
“AI可能在公众中引发许多怀疑和担忧。然而，如果我们促使AI澄清其过程，这将增加这种技术被接受的机会，”戴维斯表示。
斯图尔姆认为，AI在化学和药物发现中的应用意味着该领域的未来方向。“我们需要建立一个坚实的基础。这就是我希望实现的目标。”
这项研究得到了曼尼托巴大学、加拿大健康研究院和加拿大数字研究联盟的资助。
