分类
加州大学圣地亚哥分校新闻

论文呼吁以患者为先,对医疗保健中的人工智能进行监管

Image evoking artificial intelligence

有没有想过你在早报上读到的最新、最伟大的人工智能 (AI) 工具是否会挽救你的生命?由加州大学圣地亚哥分校高通研究所的John W. Ayers博士领导的一项新研究发表在《美国医学会杂志》上,发现这个问题可能很难回答,因为医疗保健领域的人工智能产品在上市前并没有普遍经过任何外部评估的审批过程,以评估它如何使患者的治疗效果受益。

研究小组评估了最近的白宫行政命令,该命令指示卫生与公众服务部在 2024 年 4 月 27 日之前制定新的针对人工智能的监管策略,以解决医疗保健中人工智能的公平性、安全性、隐私性和质量问题。然而,团队成员惊讶地发现,该命令没有提到患者结果,这是在允许进入医疗保健市场之前判断医疗保健产品的标准指标。

“医学的目标是挽救生命,”加州大学圣地亚哥分校医学院传染病和全球公共卫生部主任、该大学阿尔特曼临床和转化研究所联合主任、该研究的资深作者戴维·史密斯(Davey Smith)医学博士说。“人工智能工具在被广泛采用之前,应该证明它们在临床上对患者的预后有显著的改善。

据该团队称,人工智能驱动的败血症早期预警系统是住院患者中一种致命的急性疾病,每年影响 170 万美国人,这表明法规中对患者结果的优先级不足的后果。对最广泛采用的人工智能脓毒症预测模型的第三方评估显示,67%的脓毒症患者没有被系统识别。研究小组想知道,如果强制要求进行评估患者结果数据的试验,考虑到一系列可用的脓毒症早期预警系统,医院管理人员会选择这种脓毒症预测系统吗?

“我们呼吁修订白宫行政命令,在监管人工智能产品时优先考虑患者的治疗效果,”John W. Ayers博士补充道,他除了隶属于高通研究所外,还是Altman临床和转化研究所的信息学副主任。“与药品类似,影响患者护理的人工智能工具应由联邦机构评估,以了解它们如何改善患者的感觉、功能和生存率。”

该团队指出,其 2023 年在《美国医学会内科杂志》上发表的关于使用人工智能聊天机器人响应患者消息的研究,是以患者结果为中心的法规可以实现的一个例子。“从理论上讲,一项比较标准护理与人工智能对话代理增强的标准护理的研究可能会发现某些患者群体(例如心力衰竭患者)的下游护理利用率存在差异,”Nimit Desai说,他是高通研究所的研究附属机构,加州大学圣地亚哥分校医学院的学生,也是该研究的合著者。“但是,除非监管机构适当地激励他们,否则这样的研究不会发生。通过以患者结果为中心的方法,用于患者消息传递和所有其他临床应用的人工智能可以真正改善人们的生活。

该团队认识到,其拟议的监管策略可以对人工智能和医疗保健行业合作伙伴产生重大影响,但对于医疗保健领域的每种人工智能用例来说,可能并非都是必需的。然而,研究人员表示,在白宫行政命令中排除以患者结果为中心的规则是一个严重的遗漏。

2024 年 1 月 29 日,美国医学会杂志发表了题为“通过优先考虑患者结果来规范医疗保健中的人工智能”的文章 (doi:10.1001/jama.2024.0549)。

新闻旨在传播有益信息,英文版原文来自 https://today.ucsd.edu/story/paper-calls-for-patient-first-regulation-of-ai-in-healthcare