人工智能专家在斯坦福医学会议上谈论其潜在前景和陷阱

据在斯坦福大学医学院人工智能与健康会议上发言的专家称，人工智能可以帮助医生避免倦怠，帮助患者进行翻译并最大限度地减少偏见——只要它被深思熟虑地使用。

“我们需要负责任的人类与人工智能配对，形成一个真正负责任的系统，”斯坦福医疗保健首席信息官兼斯坦福医学院副院长迈克尔·普费弗（Michael Pfeffer）医学博士说。

12 月 6 日和 7 日，医学界、学术界、工业界和政府的领导者以虚拟方式召开了 2023 年 AI+Health 会议，讨论人工智能对临床实践和医疗保健行业的影响。

制定和实施

斯坦福大学医学院院长兼斯坦福大学医学事务副校长劳埃德·米诺（Lloyd Minor）医学博士主持了一个关于负责任地开发和实施人工智能的小组讨论。

Minor首先向小组询问了他们在医疗保健方面如何定义负责任的AI。亚马逊网络服务（Amazon Web Services）全球人工智能主管瓦莱丽·德尔瓦（Valerie Delva）表示，在人工智能这样一个快速发展的领域，责任的定义不可能是静态的，但负责任的人工智能的基准包括优先考虑公平性、尽量减少偏见、保护数据隐私和安全，以及确保使用和风险的透明度。Pfeffer补充说，负责任地使用人工智能取决于监控和更新已经运行的系统。他说，医疗保健和人工智能一样，一直在进步，临床医生必须知道他们使用的算法是否是最新的。

Minor询问专家组是否有任何预先存在的框架来制定人工智能法规。美国食品和药物管理局（FDA）数字健康主管特洛伊·塔兹巴兹（Troy Tazbaz）提出了一个发人深省的观点，即管理FDA如何监管医疗器械的立法是在1976年制定的，不适用于人工智能软件产品。他说，如果要保持相关性，新法规将需要非常灵活。

Minor指出，电子病历保存已经给临床医生带来了繁重的检查任务。他问小组如何确保人工智能不会引起类似的问题。提供医疗系统技术的Epic数据和分析副总裁菲尔·林德曼（Phil Lindemann）承认，医疗记录保存软件造成的负担不是业内任何人都想要的，并且给开发人员带来了同样的挫败感。他说，重要的是，人工智能与医疗记录保存的整合不会因为要求临床医生训练人工智能辅助系统而进一步加重他们的负担。

Lindemann说：“对于拥有人工智能的医生来说，我们能做的最负责任的事情就是完成他们不想做的所有平凡的重复性任务，并弄清楚如何实现自动化。

根据 Pfeffer 的说法，解决倦怠问题的潜在人工智能发展分为两类——自动化和增强。他说，斯坦福大学医学院已经采用了一些自动化解决方案，包括环境语音技术，该技术可以记录医生和患者之间的对话，并使用它来生成正确编码的临床笔记，供医生查看和编辑。他说，评估症状、诊断和患者病史以提出治疗建议等增强解决方案可能不会迫在眉睫。

林德曼认为，一些解决方案可以帮助患者。他指出，时间和语言障碍往往使患者无法询问有关治疗计划的每一个问题。Lindemann说，生成式人工智能可以成为不同教育水平、讲各种语言的患者的通用翻译器。

“我们需要考虑这些系统，因为患者只是要复制他们的放射学报告并将其放入谷歌并问，’这意味着什么？’我们需要找到一种方法将这些东西部署在一个安全的容器中，“林德曼说。

安全与公平

在关于安全与公平 （RAISE） 健康的负责任 AI 小组讨论会上，红杉资本教授兼计算机科学教授 Minor 和 Fei-Fei Li 讨论了他们发起 RAISE Health 计划的动机。

“人工智能是一个非常强大的工具，它创造了机会，但也带来了焦虑，”李说。“如果我们负责任地使用它，人工智能可以为医疗保健带来深刻的仁慈，以增强和将代理权还给人类。

Minor表示，他对负责任地实施人工智能的潜力感到兴奋，可以通过改善可及性来解决不平等问题，例如帮助全科医生更好地确定农村或低收入患者是否需要看专家。Minor说，斯坦福医学院有责任对下一代临床医生进行人工智能工具的培训。

“我们医疗保健通常是最后一个采用技术的人，”他说。“很多时候，延误不是由于安全问题造成的，而是由于我们的医疗保健提供系统的复杂性和过于复杂。我们需要打破这些障碍，以便能够及时负责任地部署人工智能。