7月10日，北京协和医院发布严正声明称，网传该院多名护士十年间为患者垫付医药费等不实情节为AI生成的虚假内容。
这并非个例。一段时间以来，本应服务人民健康、赋能医疗事业发展的AI技术，正被一些人异化为批量制造谣言、蹭流量谋利的“推手”，不仅误导公众认知，加剧安全隐患，更损害行业公信力，破坏医患关系。
梳理这些乱象，可以看到医疗领域AI造假层出不穷，从换脸带货到批量造谣，形式多样。
——“移花接木”、伪造权威，AI换脸冒名专家带货牟利。不法分子利用人工智能，将公开视频中的知名专家形象和声音，移花接木到新视频中，为商品“背书”，普通人难以分辨真伪。
据了解，北京协和医院临床营养科主任医师于康的形象曾被AI技术盗用，在多个减重科普视频中频繁“出镜”，向公众推销产品。经与本人核实，他从未参与录制此类视频，视频中的形象和声音均由AI伪造生成。
——“滥竽充数”、批量生产，利用AI生成虚假科普内容。部分账号利用AI工具批量生成医疗科普内容，看似专业实则漏洞百出，甚至互相矛盾。日前上海警方破获一起自媒体案件，无医学背景的运营者用AI批量生成虚假医疗科普文章，目的是招揽病人线下就医。
——“无中生有”、混淆视听，AI虚构情节炮制假新闻。此前，一则“全球首例AI医生独立完成罕见病手术”的新闻在网上传播，该报道开头便是“北京协和医院召开新闻发布会”，但北京协和医院表示，从未开展过这项手术，新闻报道不实。
“伪造权威专家形象与声音，散布未经临床验证的偏方或错误用药指导，患者信以为真后可能延误甚至加重病情，直接威胁生命安全。”在医药行业AI创新联盟秘书长张蕊看来，当真实科普与AI伪造内容混杂，信息模糊不清，公众很难甄别。
人工智能不是赚流量、博眼球的工具，医疗科普更不是流量生意。
当前，国家层面不断出台规定：借助人工智能技术生成合成医疗科普信息、分享传播真实健康经历的，需严格标注信息来源或生成合成内容标识；“自媒体”账号对发布转发医疗科普信息的真实性、科学性负责，严禁无资质账号生产发布专业医疗科普内容……
“医疗领域AI造假事件，其本质并非技术失控，而是人为操纵下的多重侵权与违法行为。”武汉大学法学院副院长武亦文说，造假链条中的内容生产者、传播平台乃至技术提供方，均可依据相关法律条例追究其民事、行政和刑事多重责任。
部分平台正在加强治理。如，抖音更新关于抖音医疗内容治理新规，严禁创作者借不当营销、不当演绎、不当蹭热、发布低俗内容等方式进行违规导流获利；快手宣布对利用养生内容违规引流交易的行为展开集中整治，封禁多个账号，并对违规直播间采取无限期回收权限、永久封号等措施。
在张蕊看来，技术迭代越快越需要制度约束、行业自律、平台监管、公众监督协同发力，为医疗创新划定更安全边界。
策划：陈芳
统筹：吴晶
记者：彭韵佳、李恒
新华社国内部出品
盛达优配提示：文章来自网络，不代表本站观点。
