人工智能在医学领域的未来：斯坦福医学现场活动的焦点

人工智能驱动的医疗保健、医学研究中的生成模型以及广泛人工智能集成的伦理是 3 月 18 日斯坦福医学现场活动的关键主题，来自斯坦福医学院的专家参加了此次活动。

活动的小组成员探讨了什么是人工智能;为什么它准备改变未来;以及它如何支持研究、教育和患者护理方面的实践。这是 5 月即将举行的第一届 RAISE 健康研讨会的前奏，为进一步探索如何将当前由生成式 AI 技术的进步和对大量数据的访问所推动的兴奋浪潮应用于医疗保健和医学奠定了基础。

斯坦福大学医学院院长兼斯坦福大学医学事务副总裁Lloyd Minor医学博士说：“现在，随着新人工智能功能的爆炸式增长，我们开始看到这项技术的全部前景——作为一种有可能改变患者结果、推进生物医学教育和加速研究的工具。

Minor还谈到了像斯坦福医学院这样的机构在负责任地部署人工智能工具方面所面临的义务。2023 年 6 月，斯坦福医学院与斯坦福以人为本的人工智能研究所合作，启动了“负责任的人工智能促进安全和公平的健康倡议”（RAISE Health），以确保人工智能在医学领域的开发、使用和评估遵循最佳实践和最高道德标准。

 

近年来，斯坦福大学医学院已经开始挖掘人工智能的潜在应用。“在斯坦福医疗保健，我们已经有30多个不同的技术应用程序利用人工智能，我们将在不久的将来看到更多这样的工具上线，”斯坦福医疗保健总裁兼首席执行官David Entwistle说。“我们正在进入一个激动人心的健康和医学人工智能创新时代，而斯坦福大学医学院正处于引领地位的独特地位。

但是，正如斯坦福大学医学院的另一位主要领导人所指出的那样，人工智能模型公平、公正和无偏见地代表所有人群至关重要。“迄今为止，医学中的人工智能系统主要是根据成人数据进行训练的，因为在使用和提供儿科患者数据方面存在特殊的隐私考虑，”斯坦福医学儿童健康总裁兼首席执行官Paul King说。“我们正在斯坦福大学医学院积极解决这一挑战，以便即使是我们最年轻的患者也能从同样的技术进步中受益，同时保持必要的强大保护。

小组讨论由斯坦福大学医疗保健和医学院首席信息官 Michael Pfeffer 医学博士主持，来自斯坦福医学院的四位演讲者出席了会议：

• David Magnus博士，医学，生物医学伦理学和儿科教授，Thomas A. Raffin医学和生物医学伦理学教授
• 娜塔莉·佩格勒（Natalie Pageler），医学博士，斯坦福大学医学儿童健康中心首席医疗信息官，儿科和医学临床教授
• Sylvia Plevritis博士，生物医学数据科学主席和放射学教授
• Nigam Shah 博士，斯坦福大学医疗保健首席数据科学家、医学教授兼研究副院长

人工智能正在经历一个时刻

简单地说，沙阿告诉观众，人工智能是通过算法应用数据，该算法代表人类或协助人类执行任务。随着 ChatGPT 等生成式 AI 模型（可以吸收现有数据和信息并以类似人类的方式应用）吸引了全世界的注意力，人工智能的使用呈爆炸式增长。

小组成员讨论了如何利用这一承诺，将更广泛的 hullabaloo 磨练成使命驱动、以影响为重点和合乎道德的东西。在斯坦福大学医学院，这种实施正在以各种方式浮出水面，从帮助孩子管理1型糖尿病，到解决数据稀缺的挑战，再到创造效率更高、毒性更低的新药和疗法。在研究之外，Pfeffer还指出了两种用途，它们有望增强临床医生的文书实践：为医生生成临床笔记的环境聆听工具，以及起草对患者信息的回应的大型语言模型。

当小组成员分享期待和兴奋的情绪时，他们都强调了以人为本、负责任的人工智能整合。“提供护理不仅仅是人工智能所能提供的，”佩格勒说。“重要的是，我们都要学会使用它，但不要担心被取代。

在医疗保健领域部署人工智能

小组成员承认，人工智能在健康和医学领域的成功将在很大程度上取决于算法在实践中的深思熟虑和公平性。

马格努斯说，算法本质上并不是中立的。如果数据有偏差，算法也会有偏差。“人工智能通常只是一面镜子。数据反映了健康的社会决定因素;它可以反映医生行为的偏见，“他说。“这可能是一个问题，因为从这些数据中学习的模型可以重新定义这些偏见，或者我们可以扭转它们来应对已经存在的问题。

人工智能专家表示，研究将人工智能应用于像医疗保健系统这样复杂的东西的下游影响至关重要。这意味着寻求志同道合的实体的指导，如健康人工智能联盟和FURM（公平、有用、可靠的模型）评估等工具，这是一个由沙阿和其他试图确定人工智能工具是否提供公平、有用和可靠的模型指导护理的系统。“关键是要研究使用模型的连锁反应，”Shah 说，“要超越模型思考，看看工作流程对真实人员的影响，比如员工、患者、IT 人员或护理人员。

对于那些旨在正确实现人工智能的人来说，这些都是巨大的挑战。尽管如此，斯坦福大学医学院的小组成员对他们正在帮助打造的未来持乐观态度——主要是因为他们在哪里可以做到这一点。“我们不仅有一个很棒的医疗中心，而且我们有一整所大学，步行即可到达，我们每天都与来自医学、工程、人文学科和其他专业的同事联系，”普莱夫里蒂斯说。“我觉得我们正处于新知识的悬崖边上，我们真的在最好的校园里看到它。”

有关健康和医学领域负责任人工智能的更多新闻， 请注册 RAISE Health 时事通讯。

注册 参加 5 月 14 日的 RAISE 健康研讨会。