如何看待人工智能在健康领域的应用？

在药物获得美国食品和药物管理局 （FDA） 批准之前，它必须证明安全性和有效性。然而，FDA并不要求了解药物的作用机制即可获得批准。这种不加解释地接受结果的做法提出了一个问题，即是否必须充分解释安全有效的人工智能模型的“黑匣子”决策过程，才能获得FDA的批准。

该主题是 12 月 4 日星期一在麻省理工学院安利捷健康机器学习诊所（Jameel Clinic）人工智能和卫生监管政策会议期间讨论的众多讨论点之一，该会议引发了教师之间的一系列讨论和辩论;来自美国、欧盟和尼日利亚的监管机构;以及有关人工智能在健康领域的监管的行业专家。

随着机器学习的不断发展，监管机构能否跟上并减少有害影响的可能性，同时确保各自国家在创新方面保持竞争力，仍然存在不确定性。为了营造一个坦率和公开讨论的环境，贾米尔诊所的活动出席人数经过精心策划，有 100 名与会者通过执行查塔姆研究所规则进行辩论，允许演讲者匿名讨论有争议的观点和论点，而不会被确定为来源。

Jameel Clinic 的目标是创造一个空间，让监管机构了解人工智能领域最前沿的进展，同时允许教师和行业专家提出新的或不同的方法来制定健康领域人工智能的监管框架，特别是人工智能在临床环境和药物开发中的应用。

人工智能在医学中的作用比以往任何时候都更加重要，因为该行业正在努力应对大流行后的劳动力短缺、成本增加（“尽管人们普遍认为不是工资问题，”一位发言者说），以及医疗保健专业人员的高倦怠率和辞职率。一位发言者建议，临床人工智能部署的优先事项应更多地集中在操作工具上，而不是患者诊断和治疗上。

一位与会者指出，“所有选民都明显缺乏教育——不仅在开发者社区和医疗保健系统中，而且在患者和监管机构中也是如此。鉴于医生通常是临床人工智能工具的主要用户，在场的一些医生恳求监管机构在采取行动之前咨询他们。

对于与会的大多数人工智能研究人员来说，数据可用性是一个关键问题。他们感叹缺乏数据来使他们的人工智能工具有效工作。许多公司都面临着诸如知识产权禁止访问或缺乏大型高质量数据集等障碍。“开发人员不能花费数十亿美元创建数据，但FDA可以，”一位发言人在活动期间指出。“价格的不确定性可能导致对人工智能的投资不足。来自欧盟的发言人吹捧了一个系统的发展，要求政府有义务为人工智能研究人员提供健康数据。

在为期一天的活动结束时，许多与会者建议延长讨论时间，并赞扬了选择性的策展和封闭的环境，这创造了一个独特的空间，有利于就健康领域的人工智能监管进行公开和富有成效的讨论。一旦确认未来的后续活动，Jameel Clinic 将举办更多类似性质的研讨会，以保持势头并让监管机构了解该领域的最新发展。

“任何监管体系的北极星都是安全，”一位与会者承认。“代际思想源于此，然后向下游工作。”