机器学习在计算生物学领域作为一种强有力的工具，使研究人员能够分析各种生物医学信息，包括基因组序列和生物图像。然而，在采用机器学习技术时，研究人员必须理解这些模型的运作方式，以揭示健康和疾病状态下的生物过程。
机器学习在计算生物学领域作为一种强有力的工具，使研究人员能够分析各种生物医学信息，包括基因组序列和生物图像。然而，在采用机器学习技术时，研究人员必须理解这些模型的运作方式，以揭示健康和疾病状态下的生物过程。
最近发表在《自然方法》上的一篇文章详细介绍了卡内基梅隆大学计算机科学学院的研究人员制定的指南。这些指南在应用可解释的机器学习技术解决计算生物学中的问题时，提出了潜在的陷阱和机会。文章题为《在计算生物学中应用可解释的机器学习——陷阱、建议和新发展的机会》，出现在聚焦AI的八月特刊中。
“可解释的机器学习引发了大量的热情，因为AI工具被越来越多地用于重要挑战，”卡内基梅隆大学机器学习系副教授阿米特·塔尔沃卡尔表示。“随着这些模型变得更加复杂，它们不仅在构建高度准确的预测模型方面前景广阔，也在开发能够让用户理解模型预测背后推理的工具方面潜力巨大。然而，重要的是要认识到，可解释的机器学习尚未提供对可解释性挑战的直接解决方案。”
这篇论文源于博士生瓦莱丽·陈和穆宇（温迪）·杨在雷和斯蒂芬妮·莱恩计算生物学系的合作。陈之前的工作强调了可解释的机器学习社区与实际应用之间的脱节，这激发了这篇文章的撰写，该文章源于与杨及计算生物学雷和斯蒂芬妮·莱恩教授贾恩·马的持续对话。
“我们通过彻底审查计算生物学文献来启动我们的合作，以评估可解释的机器学习技术的应用，”杨指出。“我们发现许多研究对这些方法的应用相当不一致。我们文章的目的是提供建议，以更有效和可靠地在计算生物学中运用可解释的机器学习方法。”
论文中突出的一个重要问题是倾向于依赖单一的可解释机器学习方法。研究人员提倡使用多种方法及其不同超参数，建议比较它们的结果，以更全面地理解模型性能和解释。
“虽然某些机器学习模型可能产生意想不到的良好结果，但我们常常缺乏对其机制的清晰理解，”马表示。“在生物医学等领域，理解这些模型表现良好的原因至关重要，因为这一知识是揭示基本生物洞察的关键。”
文章还警告在评估可解释的机器学习方法时，避免选择性地选择结果，因为这种做法可能导致科学结论的扭曲或不完整。
陈强调这些指南可能会引起更广泛的研究人员关注，他们希望在研究中实施可解释的机器学习技术。
“我们希望那些开发新可解释机器学习方法和工具的人——尤其是专注于解释大语言模型的研究人员——能考虑可解释机器学习的人本中心方面，”陈说。“这涉及到认识到他们的目标用户，并理解这些方法将如何被使用和评估。”
理解模型的运作方式对科学突破至关重要，这仍然是机器学习中未解决的问题。作者希望这些挑战能够激励更多跨学科的合作，以促进AI在重大科学成果中的更广泛应用。
