关于健康信息、错误信息与生成式人工智能技术交叉点的观点

《JMIR Diabetes》：Viewpoint on the Intersection Among Health Information, Misinformation, and Generative AI Technologies

　　生成式人工智能对公共卫生信息生态系统的影响及应对策略，青年专家跨国协作提出技术伦理、监管框架、数字素养提升及国际合作等建议。

　　在人工智能技术迅猛发展的背景下，公共卫生领域正面临前所未有的机遇与挑战。近年来，生成式人工智能（GenAI）作为一项突破性技术，因其强大的内容生成能力和广泛的可及性，正在迅速改变信息传播和健康服务的模式。然而，这种技术的广泛应用也带来了新的风险，尤其是在健康信息生态系统中，如何确保信息的准确性和可靠性，避免虚假信息对公众健康行为的负面影响，成为全球公共卫生专业人士必须认真思考的问题。

GenAI的核心在于其能够基于训练数据中的模式和语言特性，生成新的内容，包括文本、图像、音频、视频和代码等。这一能力使它在医疗和公共卫生领域具有巨大的潜力，例如，通过自动化管理医疗记录、提供个性化健康建议、分析大规模健康数据以预测疾病趋势，甚至在患者教育和心理健康支持方面发挥作用。然而，这种技术的使用也伴随着诸多问题，尤其是信息过载、虚假信息的传播以及技术对社会结构的潜在影响。因此，如何在推动技术创新的同时，确保其在健康领域的应用符合伦理标准、保障患者权益，并有效应对信息环境中的风险，成为亟需解决的重要课题。

### 信息生态系统与公共卫生的挑战

在当今社会，信息的获取和传播方式发生了深刻变化。随着数字化进程的加速，公众接触健康信息的渠道越来越多，但信息的质量和可信度却难以保证。特别是在公共卫生危机期间，如新冠疫情，信息的混乱和误导性传播不仅影响了人们的健康决策，还削弱了对权威机构的信任。这种现象被称为“信息疫情”（infodemic），即在大规模健康事件中，大量真假难辨的信息充斥网络，导致公众难以辨别事实，进而可能采取危险的行为，例如拒绝接种疫苗或轻视防疫措施。

信息疫情的出现与信息生态系统的复杂性密切相关。信息生态系统由各种通信渠道、平台、行为者和互动构成，它不仅影响信息的传播方式，还塑造了人们对健康问题的认知和态度。当信息环境缺乏透明度和监管时，低质量、错误或误导性的内容更容易被放大和传播，从而对公众健康产生严重后果。例如，一些商业机构或政治团体可能会利用虚假信息来获取经济利益或影响公众舆论，而这些信息往往具有高度的欺骗性和误导性。

此外，信息过载（information overload）也是现代公共卫生面临的一个关键问题。人们每天接触的信息量巨大，却缺乏有效的筛选机制和认知工具来处理这些信息。在这种情况下，人类倾向于依赖“认知捷径”（cognitive shortcuts）来快速做出判断，而这些捷径可能会导致对信息的误读和误用。例如，一些人可能会选择性地接受与自己已有观念一致的信息，而忽略或排斥相反的观点，从而加剧信息偏见和信任危机。

信息生态系统的这些问题不仅影响个体的健康行为，还可能对整个公共卫生体系造成冲击。例如，当患者过度依赖生成式人工智能提供的健康信息时，他们可能会忽视专业医疗建议，甚至自行诊断和治疗，这可能导致不必要的医疗资源浪费和潜在的健康风险。同时，信息的碎片化和重复性也可能使公共卫生机构难以有效传达关键信息，进而影响健康干预措施的实施效果。

### 生成式人工智能的机遇与风险

尽管生成式人工智能在健康信息生态系统中存在诸多风险，但它同样带来了前所未有的机遇。首先，GenAI可以极大地提升公共卫生领域的数据处理能力和分析效率。例如，通过深度学习模型，公共卫生机构能够更快速地识别疾病传播模式，预测疫情发展趋势，并制定更有效的应对策略。此外，GenAI还可以帮助分析社交媒体上的公众情绪和健康行为变化，为公共卫生政策的制定提供数据支持。

其次，生成式人工智能在改善患者沟通和健康教育方面也具有巨大潜力。通过聊天机器人、虚拟助手和智能问答系统，GenAI可以为患者提供个性化的健康建议，帮助他们更好地理解疾病预防、治疗方案和健康行为的重要性。这种技术的应用还可以延伸到远程医疗和健康信息的实时更新，使患者能够随时随地获取准确的健康信息，从而提高健康素养和自我管理能力。

然而，这些机遇的实现必须建立在对技术风险的充分认识和有效管理的基础上。生成式人工智能的输出质量高度依赖于其训练数据和模型设计，因此，如果训练数据存在偏见或不准确，GenAI生成的信息也可能带有误导性。此外，GenAI的“记忆功能”可能会使用户在使用过程中逐渐形成对某些信息的偏好，而这些偏好可能会强化错误观念，甚至影响患者的健康决策。

为了确保生成式人工智能在健康领域的安全使用，必须建立相应的政策和伦理框架。例如，欧盟推出的《人工智能法案》（AI Act）试图在促进技术创新的同时，加强对AI应用的监管，确保其符合伦理标准和公共安全要求。类似地，美国和英国等国家也在探索适合本国国情的AI治理模式。然而，全球范围内的AI监管体系仍然不够完善，尤其是在医疗和公共卫生领域，许多国家尚未制定明确的法律和政策来规范AI的使用。

### 公共卫生与医疗专业人员的角色

在生成式人工智能迅速发展的背景下，公共卫生和医疗专业人员的作用显得尤为重要。他们不仅是健康信息的提供者，更是信息生态系统中的关键参与者。为了应对AI带来的挑战，这些专业人员需要具备更强的数字素养和技术能力，以便在复杂的健康信息环境中做出准确判断。

首先，公共卫生专业人员需要加强对AI技术的理解，特别是在数据隐私、算法偏见和伦理问题方面。例如，某些AI系统可能会无意中放大特定群体的健康风险，或者在数据处理过程中泄露患者隐私。因此，公共卫生机构必须在AI的应用过程中，确保数据的匿名化处理和严格的访问控制，以保护患者的合法权益。

其次，医疗专业人员需要在日常诊疗过程中，合理利用AI工具来辅助决策，而不是完全依赖其输出。例如，在诊断和治疗方案制定中，AI可以提供参考信息，但最终的判断仍需由医生完成。此外，医疗专业人员还需要具备一定的AI素养，以便识别和纠正AI可能带来的错误信息，确保患者获得高质量的医疗服务。

### 未来展望与行动呼吁

面对生成式人工智能带来的复杂影响，公共卫生和医疗专业人员需要采取积极措施，以确保技术的安全、公平和有效应用。首先，应加强健康信息素养的教育和培训，使公众能够更好地识别虚假信息，做出理性的健康决策。其次，需要在健康教育和研究领域推动AI技术的创新应用，例如开发更精准的疾病预测模型、优化健康信息传播渠道，以及提高患者对AI工具的信任度。

此外，政策制定者和国际组织也应发挥关键作用，推动全球范围内的AI治理框架。例如，世界卫生组织（WHO）已提出一系列关于AI在医疗领域应用的伦理原则，强调保护患者自主权、确保信息透明、促进公平性和可持续性。这些原则为AI在健康领域的应用提供了指导，但也需要各国政府和公共卫生机构的积极响应和实施。

在实际操作层面，各国应根据自身的国情和发展需求，制定适合本国的AI治理政策。同时，应加强国际间的合作与交流，分享最佳实践和经验教训，以确保全球范围内的AI应用符合伦理标准和公共利益。例如，一些国家已经在探索如何将AI技术整合到公共卫生系统中，以提高疾病监测和应急响应能力。

### 公众参与与社会影响

除了技术和社会层面的挑战，生成式人工智能的应用还可能对公众的健康行为产生深远影响。在信息环境日益复杂的背景下，公众的健康决策越来越依赖于网络上的信息，而这些信息的质量参差不齐。因此，提高公众的健康信息素养和数字素养，成为应对信息疫情的关键策略。

为了实现这一目标，公共卫生机构和教育部门应共同努力，开展面向公众的健康信息素养教育。例如，可以通过社交媒体、在线课程和社区活动，向公众普及健康信息的识别方法和评估技巧，使他们能够更有效地筛选和使用健康信息。此外，政府和非政府组织还应加强对虚假信息的监管，确保网络环境的健康和安全。

在社会层面，生成式人工智能的广泛应用可能会加剧某些群体的健康不平等。例如，低收入群体或数字素养较低的群体，可能更容易受到虚假信息的影响，而无法获得准确的健康信息。因此，各国应制定相应的政策，确保所有人群都能公平地享受到AI技术带来的健康益处。这包括提高健康信息的可及性、优化AI工具的设计以适应不同用户的需求，以及加强对弱势群体的保护。

### 教育与培训的必要性

面对生成式人工智能带来的变化，教育和培训成为不可或缺的环节。无论是公共卫生专业人员还是普通公众，都需要具备一定的AI素养，以便在复杂的健康信息环境中做出明智的决策。因此，应将AI相关知识纳入公共卫生和医疗教育体系，使学生和从业人员能够更好地理解和应用这一技术。

在教育层面，可以采取多种措施来提高AI素养。例如，开设专门的AI课程，涵盖其基本原理、应用场景、潜在风险以及伦理问题。此外，还可以通过案例分析和模拟实践，帮助学生和从业人员掌握如何在实际工作中使用AI工具，并识别和应对可能的错误信息。同时，教育机构应与科技公司和伦理专家合作，确保课程内容的科学性和实用性。

在培训方面，应针对不同群体提供定制化的学习资源。例如，对公共卫生专业人员的培训应侧重于AI在疾病监测、健康促进和政策制定中的应用，而对普通公众的培训则应更注重健康信息的识别和评估能力。此外，培训还应包括如何在日常生活中使用AI工具，以提高其对健康信息的获取和处理效率。

### 伦理与政策的平衡

在推动生成式人工智能在健康领域的应用时，必须在技术创新与伦理责任之间找到平衡。一方面，AI技术可以显著提高健康信息的处理效率和传播效果，使公共卫生机构能够更快速地响应健康危机。另一方面，如果缺乏适当的监管和伦理框架，AI的使用可能会带来一系列问题，例如数据隐私泄露、算法偏见和虚假信息的传播。

因此，各国政府和国际组织应制定明确的伦理和政策指南，以确保AI技术在健康领域的应用符合社会价值观和公共利益。例如，可以建立专门的AI伦理委员会，负责审查和监督AI项目的实施过程，确保其符合伦理标准。此外，还应加强数据安全和隐私保护，确保患者信息在AI系统中的安全存储和使用。

在政策层面，各国应制定灵活且具有前瞻性的法规，以适应AI技术的快速发展。例如，可以借鉴欧盟《人工智能法案》的经验，建立一套涵盖AI应用全生命周期的监管体系，包括数据收集、模型训练、信息传播和用户反馈等环节。同时，还应鼓励跨学科合作，将AI专家、伦理学者和公共卫生专业人员纳入同一框架下，共同探讨AI在健康领域的最佳实践。

### 结语

生成式人工智能的出现，无疑为公共卫生和医疗领域带来了新的机遇和挑战。在信息生态系统日益复杂的背景下，如何确保AI技术的安全、公平和有效应用，成为全球公共卫生专业人士需要共同面对的问题。通过加强教育和培训、完善政策和伦理框架、促进公众参与和国际合作，我们可以在充分利用AI技术的同时，有效应对其可能带来的风险。

未来，随着AI技术的不断发展，公共卫生和医疗领域将需要更多的创新和变革。因此，我们呼吁各国政府、国际组织和相关机构，共同推动AI技术在健康领域的负责任应用，确保其能够真正为改善全球健康状况做出贡献。同时，我们也希望公共卫生和医疗专业人员能够积极参与到这一进程中，利用自身专业知识，为AI技术的合理使用提供支持和指导。只有通过多方合作和共同努力，我们才能在AI技术的浪潮中，实现健康信息的精准传播和有效管理，从而提升全球公共卫生的水平和效率。