用于健康信息的生成式 AI：安全使用指南

“谷歌博士”是许多人在寻找新的瘙痒、肿块或疼痛的答案时首先求助的地方。但随着生成式人工智能（AI）平台的出现，许多人想知道这些平台是否可以执行相同的任务，甚至可能做得更好。

人工智能已经被用于医疗保健。例如，对于放射学的诊断，人工智能工具可能有助于在CT扫描中检测肺结节。人工智能生成的算法也有助于弥合复杂数据和临床决策之间的差距。在这种情况下，人工智能根据原始数据中的模式创建算法，以找到联系（例如基因突变与医疗状况或特定疾病的症状群之间），这些联系对于一个人来说即使不是不可能，也很难识别。

然而，这与有人打开笔记本电脑并使用生成式人工智能来回答医疗问题不同。

下面，耶鲁大学的医生回答了有关人工智能的问题，以及如何在网上寻求医疗信息时安全地使用它。

生成式人工智能是一种人工智能，可以生成内容，包括文本、音乐、艺术和图像。OpenAI的ChatGPT，谷歌的Bard和Microsoft的Copilot是生成式AI平台的几个例子，这些平台允许用户输入提示（或问题）以在几秒钟内收到类似人类的答案。（这些平台与标准网络搜索是分开的。

例如，您可以使用生成式 AI 来总结书籍或电影的情节，或起草一封大致长度和特定语气的信件。大多数平台都是免费的，但许多平台要求您输入电话号码和/或电子邮件地址才能使用它们。

耶鲁大学医学肾脏病学家、医学博士 F. Perry Wilson 表示，许多患者似乎仍然最愿意使用谷歌来解决健康问题。

“新闻中有很多关于生成式人工智能在医疗保健中的不准确之处，这可能会吓跑一些人，”他说。“然而，我认为随着搜索引擎开始将生成式人工智能纳入常规搜索，这种情况将会改变。

“我对这一切的发展速度感到震惊，”威尔逊博士补充道。“人们开始通过生成式人工智能对医疗问题进行分类的未来并不遥远。

医生说，不要使用生成式人工智能来寻求建议，例如是否应该去急诊室治疗胸痛。

“目前，聊天机器人无法在特定时间点为单个患者创建风险概况，因此最好避免这些类型的问题，”耶鲁大学医学急诊科 （ED） 医生、医学博士、MHS Andrew Taylor 说，他也领导了耶鲁大学的 2024 年人工智能医学研讨会。

相反，这里有一些尝试生成式 AI 的技巧：

1. 用它来提供背景或教育。

例如，尝试提示：“我被告知要服用这些药物;请向我解释一下。“或者”如何诊断[插入条件]？

Taylor 博士补充说，生成式 AI 还可以解释您在实验室报告或成像结果中找到的医学术语。“从患者教育的角度来看，人工智能有可能成为一个伟大的工具，”他说。

2. 知道有些AI平台不是实时更新的。

尽管有报道称，一些人工智能平台为付费或付费订阅的用户提供了最新信息，但对于其他平台来说，人工智能用来回答问题的数据可能已经有几年没有更新了。

由于医疗信息总是在变化，数据的滞后可能意味着人工智能的反应没有捕捉到关于疾病或治疗的最新医学知识。

3. 考虑来源。

威尔逊博士解释说，通过谷歌进行标准搜索的优势之一是透明度。“如果我看到[搜索结果中的]顶部链接来自一个可信的来源，比如美国医学协会，我可以肯定他们审查了它，并且信息是准确的，”他说。“但是，如果我使用生成式人工智能，它可能无法告诉我信息来自哪里。

4. 保持一些怀疑态度。

人工智能以有时“产生幻觉”或提供不真实的信息而闻名。例如，泰勒博士说，他要求聊天机器人撰写一篇总结阿片类药物使用障碍的科学论文并提供参考文献。“这是一个很好的总结，正文中的信息在很大程度上是正确的，但参考资料是编造的，”他说。“尽管参考文献列出了科学家的名字和头衔，这些名字和头衔似乎很有道理，而且它们与合法期刊有关，但使用搜索引擎进行仔细检查后发现它们是虚构的。

还有其他潜在的来源问题。一些用户报告说，有时人工智能提供的信息是正确的，但引用的来源不包括他们提出的问题的答案。其他时候，用户说人工智能提供了不存在的源链接，或者给了他们一个“找不到页面”的结果——所有这些都让人质疑答案的准确性。“这些模型不是从某个特定的资源或站点中提取信息，而且不一定是基于证据的，”泰勒博士说。

威尔逊博士补充说，一些平台现在允许用户通过要求信息仅来自医学文献或其他指定来源来定制搜索。

威尔逊博士将人工智能收集信息的方式比作玩电子游戏。“它的目标是获得尽可能高的分数，而分数是基于它听起来多么像人类的程度和它的可读性，”他说。“当它听起来如此人性化和自信时，很难区分什么是准确的，什么是不准确的。但这是一个活跃的领域，随着对人工智能施加更大的限制，这个领域正在得到完善。

归根结底，患者应该记住，仅仅因为某些事情听起来正确并不意味着它是正确的。

“尝试生成式人工智能很有趣，但你应该始终对来源持怀疑态度。最后，请相信您的医生，因为我们有责任照顾您的最大利益，“威尔逊博士说。

然而，这是一个新技术时代的开始，人们应该意识到它就在那里，他补充说。