麻省总医院的研究确定了在患者信息系统中生成人工智能的陷阱和机会

　　布里格姆总医院的调查人员发现，gpt -4根据放射肿瘤学患者的情况生成的给患者的信息，在58%的情况下是可以接受的，无需任何额外的医生编辑。然而，大型语言模型有局限性，如果不进行编辑，一些消息被认为是不安全的。

　　

• 研究发现，在58%的情况下，gpt -4生成的给患者的信息是可以接受的，无需任何额外的医生编辑，并且比医生编写的信息提供了更详细的教育信息

• 人工智能生成的信息有缺点，包括7%的回复如果未经编辑被认为是不安全的

• 生成式人工智能可以提高效率和患者教育，但在医院将算法整合到电子健康记录中时，需要“医生参与”和谨慎的方法

麻省总医院布里格姆分校的研究人员进行的一项新研究表明，大型语言模型(llm)是一种生成式人工智能，在用于起草回复患者信息时，可能有助于减少医生的工作量并改善患者教育。该研究还发现了llm可能影响患者安全的局限性，这表明对llm产生的通信进行警惕监督对于安全使用至关重要。发表在《柳叶刀数字健康》(Lancet Digital Health)杂志上的研究结果强调，需要采取一种衡量法学硕士实施的方法。

不断增加的行政和文件责任导致医生职业倦怠的增加。为了帮助简化和自动化医生的工作流程，电子健康记录(EHR)供应商采用了生成式人工智能算法来帮助临床医生起草给患者的信息;然而，其使用的效率、安全性和临床影响尚不清楚。

“生成式人工智能有可能提供一个‘两全其美’的方案，减轻临床医生的负担，并在此过程中更好地教育患者，”通讯作者Danielle Bitterman医学博士说，他是麻省总医院布里格姆医学人工智能(AIM)项目的教员，也是布里格姆妇女医院放射肿瘤科的医生。“然而，根据我们团队与法学硕士合作的经验，我们担心将法学硕士集成到消息传递系统中的潜在风险。随着法学硕士与电子病历的整合变得越来越普遍，我们在这项研究中的目标是确定相关的好处和缺点。”

在这项研究中，研究人员使用了OpenAI的基础法学硕士GPT-4，生成了100个关于癌症患者的场景和伴随的患者问题。该研究没有使用来自实际患者的问题。六位放射肿瘤学家手动回答了这些问题;然后，GPT-4生成对问题的回答。最后，将llm生成的回复提供给相同的放射肿瘤学家进行审查和编辑。放射肿瘤学家不知道是GPT-4还是人类编写了应答，并且在31%的病例中，认为llm生成的应答是由人类编写的。

平均而言，医生起草的回答比法学硕士生成的回答要短。GPT-4倾向于为患者提供更多的教育背景，但其指导较少。医生报告说，llm辅助提高了他们的感知效率，并认为在82.1%的病例中llm生成的应答是安全的，在58.3%的病例中可以接受发送给患者而无需进一步编辑。研究人员还发现了一些缺点:如果不进行编辑，7.1%的llm生成的应答可能对患者构成风险，0.6%的应答可能造成死亡风险，最常见的原因是GPT-4的应答未能紧急指示患者立即寻求医疗护理。

值得注意的是，法学硕士生成/医生编辑的回复在长度和内容上与法学硕士生成的回复相比，更接近于手工回复。在许多情况下，医生保留法学硕士产生的教育内容，表明他们认为这是有价值的。虽然这可能会促进患者教育，但研究人员强调，鉴于法学硕士的缺点，过度依赖法学硕士也可能带来风险。

卫生领域人工智能工具的出现有可能积极地重塑护理的连续性，必须在其创新潜力与对安全和质量的承诺之间取得平衡。布里格姆总医院在负责任地使用人工智能方面处于领先地位，对新兴技术进行了严格的研究，为将人工智能纳入医疗服务、劳动力支持和行政流程提供信息。布里格姆总医院目前正在领导一个试点项目，将生成式人工智能集成到电子健康记录中，以起草对患者门户信息的回复，并在整个卫生系统的一系列门诊实践中测试该技术。

展望未来，该研究的作者正在调查患者如何看待基于法学硕士的交流，以及患者的种族和人口特征如何影响法学硕士产生的反应，这些都是基于法学硕士中已知的算法偏差。

比特曼说:“在医学中使用人工智能时，让人类参与是一个必不可少的安全步骤，但这不是一个单一的解决方案。”“由于医疗服务提供者更多地依赖法学硕士，我们可能会忽略可能导致患者伤害的错误。这项研究表明，需要有系统来监控法学硕士的质量，培训临床医生适当地监督法学硕士的产出，提高患者和临床医生的人工智能素养，以及在基本层面上，更好地理解如何解决法学硕士所犯的错误。”