合成スキャンの不安な現実
イギリス、ロンドン – 2023 年 11 月 15 日 – 現代医学の診断の基盤である X 線は、人工知能による前例のない脅威に直面しています。新しい不安を抱かせる研究により、洗練された AI モデルによって作成されたディープフェイク X 線は今や本物の医療画像とほとんど区別がつかなくなり、人間の放射線科医だけでなく高度な AI 診断システムも欺くことができることが明らかになりました。この技術的飛躍は、AI の驚くべき生成能力を実証する一方で、大規模な保険詐欺から生命を脅かす可能性のある誤診に至るまで、リスクのパンドラの箱を開けます。
2023 年 10 月 28 日にジャーナル オブ メディカル AI アプリケーションの最新版に掲載された、エセルレッド大学高等放射線研究所 (IARS) によって実施された画期的な研究は、この憂慮すべきことの説得力のある証拠を示しました。開発。計算放射線学の教授であるアリス・ソーン博士が率いる研究チームは、本物の患者スキャンとAIが生成した偽物に細心の注意を払って分割した200枚の胸部X線画像のデータセットを厳選した。その後、ヨーロッパの主要病院の経験豊富な放射線科医 30 名からなるパネルが、本物と合成品を識別する任務を負った。
結果は厳しいものだった。画像の一部が偽物である可能性があると知らされたとき、放射線科医の精度はわずか 60% 程度にとどまりました。しかし、ディープフェイクの存在に気付かずに、定期的な診断レビューを装って画像が提示された場合、検出率は驚くべき 42% にまで急落しました。優れたパターン認識がよくもてはやされる最先端の診断 AI モデルでさえも苦戦し、検出率はわずかに向上しただけで、それでも不十分な 55% に達しました。
リスクを解明する: 詐欺、誤診、信頼
このような説得力のあるディープフェイク X 線写真の影響は、深く広範囲に及びます。最も差し迫った懸念は、広範囲にわたる医療保険詐欺の可能性です。請求者が、多額の後遺障害給付金を確保するために重度の脊髄損傷を示すディープフェイクの X 線写真を提出したり、軽度の骨折の重症度を誇張するために加工された画像を提出したりして、高額な医療請求と支払いにつながるシナリオを想像してください。専門家は、このような不正請求により医療業界に年間数十億ドルの損害が発生し、保険会社に多大な負担を与え、最終的には全員の保険料を押し上げる可能性があると予測しています。
金銭的不正行為を超えて、患者ケアに対する脅威はおそらくさらに邪悪です。悪意のある攻撃者は、存在しない病状を捏造したり、より危険なことに実際の状態を消去したり隠したりすることによって、医師を誤解させるために X 線画像を改変する可能性があります。ディープフェイクの X 線写真では、腫瘍が存在する場合でも肺が鮮明に映る可能性があり、診断の誤りや治療の遅れにつながり、致命的な結果を招く可能性があります。逆に、でっち上げられた病気は不必要な処置につながり、患者を不当なリスクにさらし、医療システムを回避可能なコストにさらす可能性があります。
Dr.欧州デジタルセキュリティ研究所で医療データを専門とするサイバーセキュリティの第一人者であるレナ・ペトロワ氏は、信頼の低下を強調した。 「医療専門家が診断の際に頼っている画像の信頼性を本質的に信頼できなくなった場合、患者ケアの基盤全体が崩れ始めます。これはテクノロジーだけの問題ではありません。医学的証拠の神聖さと医師と患者の関係の問題です。」
欺瞞の背後にあるテクノロジー
これらの超現実的なディープフェイク X 線の作成は、敵対的生成ネットワークの進歩によるところが大きいです。 (GAN)。 GAN は、新しい画像を作成する「ジェネレーター」と、本物の画像と偽の画像を区別しようとする「ディスクリミネーター」という 2 つの競合するニューラル ネットワークで構成されます。反復プロセスを通じて、ジェネレーターはますます説得力のある偽物を生成することを学習し、一方、ディスクリミネーターは偽物を識別する能力が向上します。 AI 自体の中でのこの軍拡競争は、最終的には人間の専門家ですらだまされるほどリアルな画像を生成できるジェネレーターにつながります。
エセルレッド大学の研究者らは、AI モデルが匿名化された本物の X 線の膨大なデータセットでトレーニングされており、複雑な解剖学的詳細、組織密度の微妙な変化、さらにはさまざまな病状のニュアンスさえも把握できると指摘しました。この高度な学習により、AI は一般的な骨だけでなく、髪の生え際の骨折や初期の肺炎、さらには特定の骨病変などの症状を説得力を持って模倣する画像を生成できるため、検出が非常に困難になります。
安全対策と検出ツールの緊急要請
医療および技術コミュニティは現在、強力な対策の緊急の必要性に取り組んでいます。ソーン博士と彼のチームは多面的なアプローチを提唱しています。まず、デジタルゲートキーパーとして機能する、ディープフェイク医療画像を検出するために特別に設計された新しい AI モデルを開発することが重要です。これらの「ディープフェイク検出器」は、進化する生成 AI の高度化に対応するために継続的に更新され、トレーニングされる必要があります。
第二に、すべての医療画像に対する安全な電子透かしまたはブロックチェーンベースの認証システムの実装が注目を集めています。このようなシステムは、すべての元の X 線写真に変更不可能なデジタル署名を埋め込み、その真正性と出所を即座に検証できるようにします。第三に、放射線科医と医療スタッフ向けの包括的なトレーニング プログラムは、意識を高め、デジタル操作の潜在的な兆候を、たとえそれが微妙なものであっても特定するための知識を身に付けるために不可欠です。
「これは、遠い将来の単なる仮想的な問題ではなく、今ここに存在しています」とペトロワ博士は警告しました。 「政府、医療提供者、技術開発者は、規制の枠組みを確立し、検出技術を導入するために積極的に協力する必要があります。こうしたディープフェイクが克服不可能な課題になる前に、医療画像インフラストラクチャを保護する競争が続いています。」
AI が急速な進歩を続けるにつれて、強力なツールと潜在的な武器の両方としてのその二面性がますます明らかになってきています。ディープフェイク技術は、医療トレーニングや研究用の合成データ生成などの分野で驚くべき可能性を秘めていますが、診断などの機密分野での悪用には、公衆衛生を保護し、医学の完全性を維持するために、即時かつ断固とした行動が必要です。
