Тревожная реальность синтетических сканирований
Лондон, Великобритания – 15 ноября 2023 г. – Диагностическая основа современной медицины, рентген, сталкивается с беспрецедентной угрозой со стороны искусственного интеллекта. Новое тревожное исследование показывает, что дипфейковые рентгеновские снимки, созданные с помощью сложных моделей искусственного интеллекта, теперь практически неотличимы от подлинных медицинских изображений, способных обмануть не только радиологов-людей, но и передовые диагностические системы искусственного интеллекта. Этот технологический прорыв, демонстрируя замечательные генеративные возможности ИИ, открывает ящик Пандоры рисков: от крупномасштабного страхового мошенничества до потенциально опасных для жизни неправильных диагнозов.
Инновационное исследование, проведенное Институтом перспективных радиологических исследований (IARS) при Университете Этельреда и опубликованное в последнем выпуске Журнала медицинских приложений ИИ 28 октября 2023 года, представило убедительные доказательства этой тревожной ситуации. развитие. Исследовательская группа под руководством доктора Арис Торн, профессора компьютерной радиологии, собрала набор данных из 200 рентгеновских изображений грудной клетки, тщательно разделенных на подлинные снимки пациентов и подделки, созданные искусственным интеллектом. Затем группе из 30 опытных рентгенологов из крупных европейских больниц было поручено отличить настоящее от синтетического.
Результаты были поразительными. Когда рентгенологам сообщили, что часть изображений может быть поддельной, точность составила всего лишь 60%. Однако, когда изображения были представлены под видом обычного диагностического анализа (без учета наличия дипфейков), уровень их обнаружения упал до тревожных 42%. Даже самые современные диагностические модели искусственного интеллекта, часто рекламируемые за их превосходное распознавание образов, с трудом добились лишь немного лучшего, но все же недостаточного, уровня обнаружения в 55%.
Раскрытие рисков: мошенничество, ошибочный диагноз и доверие
Последствия таких убедительных поддельных рентгеновских снимков являются глубокими и далеко идущими. Самой насущной проблемой является возможность широкомасштабного мошенничества в сфере медицинского страхования. Представьте себе сценарий, когда заявитель предоставляет фальшивый рентгеновский снимок, показывающий тяжелую травму позвоночника, чтобы получить существенное пособие по инвалидности, или поддельное изображение, чтобы преувеличить тяжесть незначительного перелома, что приводит к завышенным медицинским искам и выплатам. Эксперты прогнозируют, что такие мошеннические заявления могут стоить отрасли здравоохранения миллиарды долларов ежегодно, создавая огромную нагрузку на страховых компаний и в конечном итоге повышая страховые премии для всех.
Помимо финансовых преступлений, угроза лечению пациентов, возможно, более зловещая. Злоумышленники потенциально могут изменить рентгеновские снимки, чтобы ввести врачей в заблуждение, либо путем фабрикации несуществующих патологий, либо, что еще более опасно, путем стирания или сокрытия реальных условий. Глубокий рентген может показать чистое легкое при наличии опухоли, что приводит к неправильному диагнозу и задержке лечения с потенциально фатальными последствиями. И наоборот, сфабрикованное заболевание может привести к ненужным процедурам, подвергая пациентов неоправданным рискам, а системы здравоохранения — затратам, которых можно было бы избежать.
Д-р. Лена Петрова, ведущий эксперт по кибербезопасности Европейского института цифровой безопасности, специализирующаяся на медицинских данных, подчеркнула эрозию доверия. «Если медицинские работники больше не могут доверять подлинности изображений, на которые они полагаются при постановке диагноза, вся основа ухода за пациентами начинает рушиться. Речь идет не только о технологиях; речь идет о неприкосновенности медицинских данных и отношениях между врачом и пациентом».
Технология, лежащая в основе обмана
Создание этих гиперреалистичных поддельных рентгеновских снимков во многом связано с достижениями в области генеративно-состязательных сетей (GAN). GAN состоят из двух конкурирующих нейронных сетей: «генератора», который создает новые изображения, и «дискриминатора», который пытается отличить настоящие изображения от поддельных. В ходе итеративного процесса генератор учится создавать все более убедительные подделки, а дискриминатор становится лучше их распознавать. Эта гонка вооружений внутри самого ИИ в конечном итоге приводит к созданию генератора, способного создавать настолько реалистичные изображения, что даже эксперты-люди обманываются.
Исследователи из Университета Этельреда отметили, что модели ИИ были обучены на огромных наборах данных анонимных реальных рентгеновских лучей, что позволяет им улавливать сложные анатомические детали, тонкие различия в плотности тканей и даже нюансы различных патологий. Это сложное обучение позволяет ИИ генерировать не просто обычные кости, но и изображения, которые убедительно имитируют такие состояния, как микропереломы, пневмония на ранней стадии или даже конкретные поражения костей, что делает обнаружение невероятно сложным.
Срочный призыв к мерам безопасности и инструментам обнаружения
Медицинские и технологические сообщества сейчас сталкиваются с острой необходимостью в надежных контрмерах. Доктор Торн и его команда выступают за многосторонний подход. Во-первых, существует острая необходимость в разработке новых моделей искусственного интеллекта, специально предназначенных для обнаружения дипфейковых медицинских изображений и действующих в качестве цифровых привратников. Эти «детекторы дипфейков» необходимо будет постоянно обновлять и обучать, чтобы идти в ногу с развивающейся сложностью генеративного искусственного интеллекта.
Во-вторых, набирает обороты внедрение безопасных цифровых водяных знаков или систем аутентификации на основе блокчейна для всех медицинских изображений. Такие системы будут вставлять неизменяемую цифровую подпись в каждый оригинальный рентгеновский снимок, что позволит мгновенно проверять его подлинность и происхождение. В-третьих, комплексные программы обучения рентгенологов и медицинского персонала необходимы для повышения осведомленности и предоставления им знаний для выявления потенциальных признаков цифровых манипуляций, какими бы тонкими они ни были.
«Это не просто гипотетическая проблема отдаленного будущего; она уже здесь и сейчас», — предупредила доктор Петрова. «Правительства, поставщики медицинских услуг и разработчики технологий должны активно сотрудничать для создания нормативной базы и внедрения технологий обнаружения. Идет гонка за безопасность нашей инфраструктуры медицинских изображений, прежде чем эти дипфейки станут непреодолимой проблемой».
По мере того, как ИИ продолжает свое быстрое восхождение, его двойная природа как мощного инструмента и потенциального оружия становится все более очевидной. Хотя технология дипфейков предлагает невероятный потенциал в таких областях, как медицинское обучение и генерирование синтетических данных для исследований, ее неправильное использование в таких чувствительных областях, как диагностика, требует немедленных и решительных действий для защиты общественного здравоохранения и поддержания целостности медицинской науки.
