合成扫描令人不安的现实
英国伦敦 - 2023 年 11 月 15 日 - 现代医学的诊断基石 X 射线正面临来自人工智能的前所未有的威胁。令人不安的新研究表明，由复杂的人工智能模型产生的深度伪造 X 射线现在与真实的医学图像几乎无法区分，不仅能够欺骗人类放射科医生，还能欺骗先进的人工智能诊断系统。这一技术飞跃在展示人工智能卓越生成能力的同时，也打开了风险的潘多拉魔盒，从大规模保险欺诈到可能危及生命的误诊。
Aethelred 大学高级放射学研究所 (IARS) 进行的一项开创性研究于 2023 年 10 月 28 日发表在最新一期的《医学人工智能应用杂志》上，为这一令人震惊的发展提供了令人信服的证据。在计算放射学教授 Aris Thorne 博士的领导下，研究团队整理了包含 200 张胸部 X 射线图像的数据集，仔细区分真实的患者扫描和人工智能生成的假图像。随后，由来自欧洲各大医院的 30 名经验丰富的放射科医生组成的小组负责辨别真假假货。
结果非常明显。当得知部分图像可能是假的时，放射科医生的准确率徘徊在 60% 左右。然而，当以常规诊断审查为幌子呈现这些图像时（不知道深度假货的存在），他们的检测率骤降至惊人的 42%。即使是最先进的诊断人工智能模型，经常被吹捧为具有卓越的模式识别能力，但也举步维艰，只取得了 55% 的检出率，但仍然不够。
揭开风险：欺诈、误诊和信任
这种令人信服的深度伪造 X 射线的影响是深远的。最紧迫的担忧是可能存在广泛的医疗保险欺诈。想象一下这样的场景：索赔人提交了一张显示严重脊柱损伤的深度伪造 X 射线照片，以获取大量伤残福利，或者提交了一张经过修改的图像来夸大轻微骨折的严重程度，从而导致医疗索赔和赔偿金额夸大。专家预测，此类欺诈性索赔可能每年给医疗保健行业造成数十亿美元的损失，给保险公司带来巨大压力，并最终推高每个人的保费。
除了财务渎职之外，对患者护理的威胁可以说更为险恶。恶意行为者可能会改变 X 射线图像来误导医生，要么通过捏造不存在的病理，要么更危险的是，通过删除或模糊真实情况。当存在肿瘤时，深度伪造的 X 射线可能会显示清晰的肺部，从而导致漏诊和延误治疗，并可能带来致命的后果。相反，捏造的疾病可能会导致不必要的手术，使患者面临不必要的风险，并使医疗保健系统承担可避免的成本。
Dr.欧洲数字安全研究所专门研究医疗数据的领先网络安全专家 Lena Petrova 强调了信任的侵蚀。 “如果医疗专业人员不再能够从本质上相信他们诊断所依赖的图像的真实性，那么患者护理的整个基础就会开始崩溃。这不仅仅是技术的问题；这还关系到医学证据的神圣性和医患关系。”
欺骗背后的技术
这些超现实的深度伪造 X 射线的创建很大程度上归功于生成对抗网络 (GAN) 的进步。 GAN 由两个相互竞争的神经网络组成：一个创建新图像的“生成器”和一个试图区分真假图像的“鉴别器”。通过迭代过程，生成器学会生成越来越令人信服的赝品，而鉴别器则能够更好地识别它们。人工智能本身内部的这场军备竞赛最终导致生成器能够生成如此逼真的图像，甚至人类专家也会被愚弄。
Aethelred 大学的研究人员指出，人工智能模型是在大量匿名真实 X 射线数据集上进行训练的，使它们能够掌握复杂的解剖细节、组织密度的微妙变化，甚至各种病理的细微差别。这种复杂的学习使人工智能不仅能够生成通用骨骼，还能生成令人信服地模仿发丝骨折、早期肺炎甚至特定骨骼病变等状况的图像，这使得检测变得异常具有挑战性。
迫切需要保障措施和检测工具
医疗和技术界现在正在努力解决强有力的对策的迫切需要。索恩博士和他的团队主张采取多管齐下的方法。首先，迫切需要开发新的人工智能模型，专门用于检测深度伪造的医学图像，充当数字看门人。这些“深度伪造探测器”需要不断更新和训练，以跟上生成人工智能不断发展的复杂性。
其次，针对所有医学成像实施安全数字水印或基于区块链的身份验证系统正在受到关注。此类系统会将不可更改的数字签名嵌入到每张原始 X 射线中，从而可以立即验证其真实性和出处。第三，为放射科医生和医务人员提供全面的培训计划对于提高认识并为他们提供识别潜在数字操纵迹象（无论多么微妙）的知识至关重要。
“这不仅仅是遥远未来的假设问题；它现在就在这里，”彼得洛娃博士警告说。 “政府、医疗保健提供者和技术开发商必须积极合作，建立监管框架并部署检测技术。在这些深度造假成为难以克服的挑战之前，我们必须展开竞赛以确保我们的医学成像基础设施的安全。”
随着人工智能继续快速崛起，其作为强大工具和潜在武器的双重性质变得越来越明显。虽然深度伪造技术在医疗培训和研究合成数据生成等领域提供了令人难以置信的潜力，但其在诊断等敏感领域的滥用需要立即采取果断行动，以保护公众健康并维护医学科学的完整性。
