AI心理健康应用可能为弥补美国心理健康护理系统的不足提供一种价格低廉且易于获取的方式，但伦理专家警告我们在使用这些应用时需要谨慎，尤其是在涉及儿童时。
在美国，心理健康护理可能很难获得。保险覆盖不均，心理健康专业人士数量不足，无法满足全国的需求，导致长期等待和高昂的护理费用。
人工智能（AI）应运而生。
AI心理健康应用，包括情绪追踪器和模仿人类治疗师的聊天机器人，正在市场上迅速增加。虽然它们可能提供一种低成本且易于获取的方式来弥补我们系统中的缺口，但对过度依赖AI进行心理健康护理存在伦理方面的担忧——尤其是针对儿童。
大多数AI心理健康应用未受到监管，并且是为成年人设计的，但关于与儿童一起使用它们的讨论正在增加。布里安娜·摩尔（Bryanna Moore）博士，罗切斯特医学中心（URMC）健康人文学科与生物伦理学助理教授，想确保这些对话包括伦理考量。
摩尔在最近的一篇《儿科杂志》评论中表示：“没有人讨论儿童的特殊性——他们的思维方式，他们与家庭的环境，他们的决策方式如何不同。儿童尤其脆弱。他们的社会、情感和认知发展阶段与成年人截然不同。”
事实上，AI心理健康聊天机器人可能会影响儿童的社会发展。证据表明，儿童相信机器人具有“道德地位和心理生活”，这引发了担忧：儿童，尤其是年幼者，可能会依赖聊天机器人而忽视与人建立健康关系的机会。
儿童的社会背景——他们与家庭和同龄人的关系——对他们的心理健康至关重要。这就是为什么儿童治疗师不会孤立地治疗儿童。他们会观察儿童的家庭和社会关系，以确保儿童的安全并将家庭成员纳入治疗过程。AI聊天机器人无法获取这些重要的背景信息，可能错失在儿童处于危险时进行干预的机会。
AI聊天机器人——以及一般的AI系统——也往往加剧现有的健康不平等。
评论共同作者、哲学与健康人文学科及生物伦理学助理教授乔纳森·赫林顿（Jonathan Herington）博士表示：“AI的好坏取决于其训练所用的数据。要创建一个适合每个人的系统，您需要使用能代表每个人的数据。遗憾的是，如果没有非常仔细的努力来构建具有代表性的数据集，这些AI聊天机器人将无法为所有人服务。”
儿童的性别、种族、民族、居住地以及家庭的相对财富都会影响他们经历不良儿童事件的风险，例如虐待、忽视、亲人入狱，或目睹家庭或社区中的暴力、药物滥用或精神疾病。经历这些事件的儿童更可能需要密集的心理健康护理，并且更不容易获得。
赫林顿说：“经济条件差的儿童可能无法负担人与人之间的治疗，因此依赖这些AI聊天机器人代替人与人之间的治疗。AI聊天机器人可能成为有价值的工具，但永远不应取代人类治疗。”
目前大多数AI治疗聊天机器人没有受到监管。美国食品药品监督管理局仅批准了一款基于AI的心理健康应用用于治疗成年人重度抑郁症。在没有监管的情况下，无法保证防止滥用、缺乏报告或训练数据或用户访问的不平等。
摩尔表示：“有许多未解之谜尚未得到解答或清晰表达。我们并不倡导终止这项技术。我们并不是说要消除AI或治疗机器人。我们是在说，我们需要谨慎使用它们，特别是在涉及儿童及其心理健康护理时。”
摩尔和赫林顿与纽约州立大学上州医学中心生物伦理与人文学科中心的塞里费·特金（Serife Tekin）博士合作，共同撰写了这篇评论。特金研究精神病学和认知科学的哲学，以及在医学中使用AI的生物伦理学。
展望未来，团队希望与开发者合作，以更好地了解他们如何开发基于AI的治疗聊天机器人。他们特别想了解开发者是否以及如何将伦理或安全因素纳入开发过程，以及他们的AI模型在多大程度上受到研究和与儿童、青少年、父母、儿科医生或治疗师的参与的影响。
