A inquietante realidade das varreduras sintéticas
Londres, Reino Unido – 15 de novembro de 2023 – A base diagnóstica da medicina moderna, o raio X, enfrenta uma ameaça sem precedentes da inteligência artificial. Novas e perturbadoras pesquisas revelam que raios X falsos, criados por modelos sofisticados de IA, são agora virtualmente indistinguíveis de imagens médicas genuínas, capazes de enganar não apenas radiologistas humanos, mas também sistemas avançados de diagnóstico de IA. Este salto tecnológico, ao mesmo tempo que demonstra as notáveis capacidades geradoras da IA, abre uma caixa de Pandora de riscos, desde fraudes de seguros em grande escala até diagnósticos errados potencialmente fatais.
Um estudo inovador conduzido pelo Instituto de Estudos Radiológicos Avançados (IARS) da Universidade Aethelred, publicado na última edição do Journal of Medical AI Applications em 28 de outubro de 2023, apresentou evidências convincentes deste desenvolvimento alarmante. Aris Thorne, professor de radiologia computacional, a equipe de pesquisa fez a curadoria de um conjunto de dados de 200 imagens de radiografias de tórax, meticulosamente divididas entre exames autênticos de pacientes e falsificações geradas por IA. Um painel de 30 radiologistas experientes dos principais hospitais europeus foi então encarregado de identificar o real do sintético.
Os resultados foram contundentes. Quando informados de que parte das imagens poderia ser falsa, a precisão dos radiologistas ficou em torno de apenas 60%. No entanto, quando apresentadas às imagens sob o pretexto de uma revisão diagnóstica de rotina – sem saber da presença de deepfakes – as suas taxas de detecção caíram para alarmantes 42%. Mesmo os modelos de IA de diagnóstico de última geração, muitas vezes elogiados por seu reconhecimento superior de padrões, tiveram dificuldades, alcançando taxas de detecção apenas um pouco melhores, mas ainda inadequadas, de 55%.
Revelando os riscos: fraude, diagnóstico incorreto e confiança
As implicações desses raios X falsos e convincentes são profundas e de longo alcance. A preocupação mais imediata é o potencial de fraude de seguros médicos generalizada. Imagine um cenário em que um requerente submete uma radiografia falsa mostrando uma lesão medular grave para garantir benefícios substanciais por invalidez, ou uma imagem adulterada para aumentar a gravidade de uma pequena fratura, levando a indenizações e pagamentos médicos inflacionados. Os especialistas prevêem que tais sinistros fraudulentos podem custar bilhões anualmente ao setor de saúde, colocando imensa pressão sobre as seguradoras e, em última análise, aumentando os prêmios para todos.
Além da prevaricação financeira, a ameaça ao atendimento ao paciente é indiscutivelmente mais sinistra. Atores maliciosos poderiam potencialmente alterar imagens de raios X para enganar os médicos, seja fabricando patologias que não existem ou, mais perigosamente, apagando ou obscurecendo condições reais. Uma radiografia falsa pode mostrar um pulmão limpo quando um tumor está presente, levando a um diagnóstico errado e a um tratamento tardio, com consequências potencialmente fatais. Por outro lado, uma doença fabricada pode levar a procedimentos desnecessários, expondo os pacientes a riscos injustificados e os sistemas de saúde a custos evitáveis.
Dr. Lena Petrova, especialista líder em segurança cibernética especializada em dados médicos no Instituto Europeu de Segurança Digital, enfatizou a erosão da confiança. "Se os profissionais médicos não podem mais confiar inerentemente na autenticidade das imagens nas quais confiam para o diagnóstico, toda a base do atendimento ao paciente começa a desmoronar. Não se trata apenas de tecnologia; trata-se da santidade das evidências médicas e da relação médico-paciente." As GANs consistem em duas redes neurais concorrentes: um ‘gerador’ que cria novas imagens e um ‘discriminador’ que tenta distinguir entre imagens reais e falsas. Através de um processo iterativo, o gerador aprende a produzir falsificações cada vez mais convincentes, enquanto o discriminador se torna melhor na sua identificação. Esta corrida armamentista dentro da própria IA eventualmente leva a um gerador capaz de produzir imagens tão realistas que até mesmo especialistas humanos são enganados.
Pesquisadores da Universidade Aethelred observaram que os modelos de IA foram treinados em vastos conjuntos de dados de raios X reais anonimizados, permitindo-lhes compreender os intrincados detalhes anatômicos, variações sutis na densidade do tecido e até mesmo as nuances de várias patologias. Esse aprendizado sofisticado permite que a IA gere não apenas ossos genéricos, mas imagens que imitam de forma convincente condições como fraturas finas, pneumonia em estágio inicial ou até mesmo lesões ósseas específicas, tornando a detecção incrivelmente desafiadora.
Um apelo urgente por salvaguardas e ferramentas de detecção
As comunidades médicas e tecnológicas estão agora enfrentando a necessidade urgente de contramedidas robustas. Dr. Thorne e sua equipe defendem uma abordagem multifacetada. Em primeiro lugar, há uma necessidade crítica de desenvolver novos modelos de IA especificamente concebidos para detectar imagens médicas falsas, agindo como guardiões digitais. Esses 'detectores de deepfake' precisariam ser continuamente atualizados e treinados para acompanhar a evolução da sofisticação da IA generativa.
Em segundo lugar, a implementação de marcas d'água digitais seguras ou sistemas de autenticação baseados em blockchain para todas as imagens médicas está ganhando força. Tais sistemas incorporariam uma assinatura digital inalterável em cada raio X original, permitindo a verificação instantânea da sua autenticidade e proveniência. Em terceiro lugar, programas de treinamento abrangentes para radiologistas e equipes médicas são essenciais para conscientizá-los e equipá-los com o conhecimento necessário para identificar possíveis sinais de manipulação digital, por mais sutis que sejam.
"Este não é apenas um problema hipotético para um futuro distante; está aqui agora", alertou a Dra. Petrova. "Os governos, os prestadores de cuidados de saúde e os criadores de tecnologia devem colaborar agressivamente para estabelecer quadros regulamentares e implementar tecnologias de deteção. Começou a corrida para proteger a nossa infraestrutura de imagens médicas antes que estes deepfakes se tornem um desafio intransponível."
À medida que a IA continua a sua rápida ascensão, a sua dupla natureza como ferramenta poderosa e arma potencial torna-se cada vez mais evidente. Embora a tecnologia deepfake ofereça um potencial incrível em áreas como treinamento médico e geração de dados sintéticos para pesquisa, seu uso indevido em áreas sensíveis como diagnóstico exige ação imediata e decisiva para proteger a saúde pública e manter a integridade da ciência médica.
