GPT-4o-mini中的隐性偏见：检测人工智能生成的患者信息中的差异

《Journal of Medical Systems》：Invisible Bias in GPT-4o-mini: Detecting Disparities in AI-Generated Patient Messaging

　　人工智能在医疗沟通中的应用及偏见检测研究。通过GPT-4oMini生成基于合成患者数据的沟通内容，从同理心、鼓励性等六个维度评估发现性别和宗教偏好存在显著偏见，提出新型AI偏见检测方法。

　　

摘要

在过去十年中，人工智能（AI），尤其是大型语言模型（LLM），由于性能的提升和应用范围的扩大而获得了显著的普及。AI有望改善医疗领域的患者护理质量，但训练过程中引入的隐性偏见可能会带来负面影响。本研究利用GPT-4o-mini根据系统生成的、模拟患者数据来生成患者沟通内容，这些数据通常会出现在患者的医疗记录中。为了评估AI生成的沟通内容是否存在差异，研究人员使用GPT-4o-mini对沟通内容在共情、鼓励、准确性、清晰度、专业性和尊重等方面的表现进行了评分。通过分析患者病史特定组成部分对评分结果的影响，发现了潜在的偏见。研究发现，患者的性别和宗教信仰对评分结果具有统计学上的显著影响。然而，还需要进一步的研究来评估更多类型的LLM，并采用更具体、经过人类验证的评分标准。总体而言，本研究提出了一种通过创建模拟患者病史来生成AI沟通内容并进行评分的新方法，为后续研究提供了方向。