Com a entrada da IA nas salas de cirurgia, surgem relatos de cirurgias malsucedidas e identificação incorreta de partes do corpo.
PN - Os fabricantes de dispositivos médicos têm se apressado em adicionar inteligência artificial aos seus produtos.
Embora os defensores afirmem que a nova tecnologia revolucionará a medicina, os órgãos reguladores estão recebendo um número crescente de denúncias de lesões a pacientes.
Em 2021, uma unidade da gigante da saúde Johnson & Johnson anunciou um grande avanço: a adição de inteligência artificial a um dispositivo médico usado para tratar a sinusite crônica, uma inflamação dos seios da face. A Acclarent afirmou que o software do seu Sistema de Navegação TruDi agora utilizaria um algoritmo de aprendizado de máquina para auxiliar otorrinolaringologistas em cirurgias.
O dispositivo já estava no mercado há cerca de três anos. Até então, a Administração de Alimentos e Medicamentos dos EUA (FDA) havia recebido relatos não confirmados de sete casos de mau funcionamento do dispositivo e outro relato de lesão a um paciente. Desde a incorporação da inteligência artificial (IA) ao dispositivo, a FDA recebeu relatos não confirmados de pelo menos 100 casos de mau funcionamento e eventos adversos.
Segundo relatos, pelo menos 10 pessoas ficaram feridas entre o final de 2021 e novembro de 2025. A maioria dos casos supostamente envolveu erros no sistema de navegação TruDi, que teria fornecido informações incorretas aos cirurgiões sobre a localização de seus instrumentos enquanto os utilizavam dentro da cabeça dos pacientes durante as cirurgias.
Em um dos casos relatados, houve vazamento de líquido cefalorraquidiano pelo nariz de um paciente. Em outro caso, um cirurgião perfurou acidentalmente a base do crânio de um paciente. Em outros dois casos, pacientes teriam sofrido AVC após uma lesão acidental em uma artéria principal.
Os relatórios da FDA sobre dispositivos médicos podem estar incompletos e não se destinam a determinar as causas de incidentes médicos, portanto, não está claro qual o papel que a IA pode ter desempenhado nesses eventos.
As duas vítimas de AVC entraram com um processo no Texas alegando que a IA do sistema TruDi contribuiu para seus ferimentos. "O produto era indiscutivelmente mais seguro antes da integração das mudanças no software para incorporar a inteligência artificial do que depois que as modificações foram implementadas", alega um dos processos.
A Reuters não conseguiu verificar de forma independente as alegações dos processos judiciais.
Questionada sobre os relatórios da FDA a respeito do dispositivo TruDi, a Johnson & Johnson encaminhou as perguntas à Integra LifeSciences, que em 2024 adquiriu a Acclarent e o Sistema de Navegação TruDi.
A Integra LifeSciences afirmou que os relatórios “apenas indicam que um sistema TruDi estava em uso em uma cirurgia na qual ocorreu um evento adverso”. Acrescentou ainda que “não há evidências críveis que demonstrem qualquer relação causal entre o Sistema de Navegação TruDi, a tecnologia de IA e quaisquer lesões alegadas”.
A compreensão desses incidentes surge em um momento em que a IA começa a transformar o mundo da saúde. Os defensores preveem que a nova tecnologia ajudará a encontrar curas para doenças raras, descobrir novos medicamentos, aprimorar a habilidade dos cirurgiões e empoderar os pacientes.
No entanto, uma análise da Reuters de registros de segurança e jurídicos, bem como entrevistas com médicos, enfermeiros, cientistas e reguladores, documenta alguns dos riscos da IA na medicina, enquanto fabricantes de dispositivos, gigantes da tecnologia e desenvolvedores de software correm para implementá-la.
Pelo menos 1.357 dispositivos médicos que utilizam IA já foram autorizados pela FDA – o dobro do número permitido até 2022. O sistema TruDi não é o único questionado: a FDA recebeu relatos envolvendo dezenas de outros dispositivos com inteligência artificial, incluindo um monitor cardíaco que teria ignorado batimentos cardíacos anormais e um aparelho de ultrassom que supostamente identificou erroneamente partes do corpo fetal.
Pesquisadores das universidades Johns Hopkins, Georgetown e Yale descobriram recentemente que 60 dispositivos médicos autorizados pela FDA que utilizam inteligência artificial foram associados a 182 recalls de produtos, de acordo com um artigo de pesquisa publicado no JAMA Health Forum em agosto.
A análise mostrou que 43% dos recalls ocorreram menos de um ano após a aprovação dos dispositivos. Isso representa aproximadamente o dobro da taxa de recall de todos os dispositivos autorizados sob regras semelhantes da FDA, conforme apontado no artigo.
O boom da IA representa um problema para a FDA, disseram à Reuters cinco cientistas, atuais e antigos, da agência: a agência está com dificuldades para acompanhar a avalanche de dispositivos médicos com IA que buscam aprovação, após a perda de funcionários importantes. Um porta-voz do Departamento de Saúde e Serviços Humanos dos EUA, que inclui a FDA, afirmou que a agência está buscando aumentar sua capacidade nessa área.
Outra forma de inteligência artificial, os chatbots de IA generativa, também está chegando à medicina. Muitos médicos agora usam IA para economizar tempo, por exemplo, na transcrição de prontuários de pacientes. Mas os médicos também dizem que muitos pacientes usam chatbots para autodiagnóstico ou para questionar conselhos profissionais, o que apresenta novos desafios e riscos. ( Veja matéria relacionada. )
A inteligência artificial tornou-se uma sensação nos negócios e na sociedade após o lançamento do ChatGPT há cerca de três anos. O ChatGPT e outros chatbots populares, como o Gemini do Google e o Claude da Anthropic, usam a chamada IA generativa para criar conteúdo.
Eles são construídos com base em grandes modelos de linguagem, ou LLMs, que são treinados com enormes conjuntos de texto e outros dados para entender e gerar linguagem humana. Essas ferramentas de IA estão sendo introduzidas em áreas médicas, como aplicativos de saúde para o consumidor.
A IA abrange muito mais do que os mestrados em direito, e a tecnologia chegou à medicina muito antes do surgimento dos bots de IA. O campo remonta a mais de 70 anos: um momento crucial foi quando o matemático britânico Alan Turing perguntou, em um artigo de 1950: "As máquinas podem pensar?"
A FDA autorizou seus primeiros dispositivos médicos com inteligência artificial em 1995 – dois sistemas que utilizavam software de reconhecimento de padrões para rastrear câncer cervical.
O tipo de IA usado em dispositivos médicos atualmente é frequentemente chamado de aprendizado de máquina, juntamente com um subconjunto conhecido como aprendizado profundo, que são treinados com dados para executar tarefas específicas. A tecnologia é usada em radiologia, por exemplo, para aprimorar e analisar imagens médicas. Ela pode ajudar no diagnóstico de cânceres, identificando tumores que os médicos podem não perceber.
Esses sistemas também são usados em dispositivos cirúrgicos. Em junho de 2022, um cirurgião inseriu um pequeno balão na cavidade sinusal de Erin Ralph em um hospital em Fort Worth, Texas. De acordo com um processo movido por Ralph, o Dr. Marc Dean estava utilizando o Sistema de Navegação TruDi, que usa inteligência artificial, para confirmar a posição de seus instrumentos dentro da cabeça dela.
O procedimento, conhecido como sinuplastia, é uma técnica minimamente invasiva para tratar a sinusite crônica. Um balão é inflado para ampliar a abertura da cavidade sinusal, permitindo melhor drenagem e aliviando a inflamação.
Mas o sistema TruDi “enganou e direcionou erroneamente” Dean, de acordo com o processo que Ralph moveu no Tribunal Distrital do Condado de Dallas contra a Acclarent e outros réus. Uma artéria carótida – que irriga o cérebro, o rosto e o pescoço – teria sido lesionada, causando um coágulo sanguíneo.
Segundo documentos do processo, o advogado de Ralph disse ao juiz que os próprios registros de Dean mostravam que ele “não tinha ideia de que estava perto da artéria carótida”. A Reuters não conseguiu acessar os registros, que estão sob sigilo judicial.
Após Ralph receber alta do hospital, ficou evidente que ela havia sofrido um AVC. A mãe de quatro filhos retornou e passou cinco dias na UTI, de acordo com uma campanha de arrecadação de fundos no GoFundMe, organizada para apoiar sua recuperação. Uma parte de seu crânio foi removida "para permitir que seu cérebro tivesse espaço para inchar", afirmava a campanha no GoFundMe.
“Ainda estou fazendo fisioterapia”, disse Ralph em uma entrevista mais de um ano depois para um blog sobre vítimas de AVC. “É difícil andar sem uma órtese e recuperar os movimentos do meu braço esquerdo.”
Em maio de 2023, Dean estava utilizando o TruDi em outra cirurgia de sinuplastia quando a artéria carótida da paciente Donna Fernihough supostamente “estourou”. O sangue “esguichava por toda parte” – chegando a atingir um representante da Acclarent que observava a cirurgia, de acordo com um processo que Fernihough moveu no Tribunal Distrital dos EUA em Fort Worth contra a Acclarent e vários fabricantes. Uma das artérias carótidas de Fernihough foi danificada. Ela sofreu um AVC no dia da cirurgia, segundo o processo.
A Acclarent “sabia ou deveria saber que a suposta inteligência artificial causava ou agravava a tendência do sistema de navegação integrado de ser inconsistente, impreciso e não confiável”, alega o processo.
A Acclarent negou as alegações em ambos os processos, que ainda estão em andamento, de acordo com documentos judiciais. A empresa afirma que não projetou nem fabricou o sistema TruDi, apenas o distribuiu, segundo os documentos. A Integra LifeSciences, proprietária da Acclarent, disse à Reuters que não há evidências de qualquer ligação entre a tecnologia de IA e as supostas lesões.
Dean começou a prestar consultoria para a Acclarent em 2014 e recebeu mais de US$ 550.000 em honorários de consultoria da empresa até 2024, de acordo com o Open Payments, um banco de dados federal que rastreia vínculos financeiros entre empresas e médicos. Pelo menos US$ 135.000 desses honorários estavam relacionados ao sistema TruDi.
Um advogado de Dean disse que o médico não podia comentar devido à privacidade do paciente e ao litígio em andamento. A Integra afirmou que Dean não é mais consultor da TruDi e que os pagamentos feitos a ele após a aquisição da Acclarent foram referentes a refeições.
Em 2021, o então presidente da Acclarent, Jeff Hopkins, pressionava para incluir IA no TruDi "como ferramenta de marketing" para alegar que o dispositivo "tinha tecnologia nova e inovadora", alega o processo de Fernihough.
O software TruDi utiliza aprendizado de máquina para identificar segmentos específicos da anatomia de um paciente e calcular “o caminho válido mais curto entre dois pontos especificados pelo médico”, de acordo com uma publicação da Acclarent no LinkedIn. A tecnologia foi projetada para simplificar o planejamento cirúrgico e fornecer feedback em tempo real durante procedimentos como cirurgias de seios da face.
Segundo o processo de Fernihough, representantes da Acclarent abordaram Dean sobre o plano de adicionar IA. O cirurgião alertou Hopkins e a Acclarent “de que havia problemas que precisavam ser resolvidos”, acrescenta a queixa.
Apesar desse alerta, o processo alega que a Acclarent “reduziu seus padrões de segurança para acelerar o lançamento da nova tecnologia no mercado” e estabeleceu “como meta uma precisão de apenas 80% para parte dessa nova tecnologia antes de integrá-la ao Sistema de Navegação TruDi”.
A Reuters não conseguiu apurar se foi Dean quem emitiu o alerta. Os repórteres não tiveram acesso ao material apresentado em apoio às alegações de Fernihough, que está sujeito a uma ordem judicial de proteção.
Hopkins, ex-presidente da Acclarent, não respondeu ao pedido de comentário.
'PARTES DO CORPO ERRADAS'
A FDA alerta que os relatos de eventos adversos e mau funcionamento de dispositivos são limitados: muitas vezes carecem de detalhes, são editados para proteger segredos comerciais e não podem ser usados isoladamente para atribuir culpa. A agência também recebe, por vezes, múltiplos relatos para um único incidente.
A Reuters descobriu que pelo menos 1.401 dos relatórios enviados à FDA entre 2021 e outubro de 2025 dizem respeito a dispositivos médicos que constam de uma lista da FDA com 1.357 produtos que utilizam IA. A agência afirma que a lista não é exaustiva. Desses relatórios, pelo menos 115 mencionam problemas com software, algoritmos ou programação.
Um relatório da FDA de junho de 2025 alegou que um software de IA usado em ultrassonografias pré-natais estava identificando erroneamente partes do corpo do feto. Chamado Sonio Detect, ele usa técnicas de aprendizado de máquina para ajudar a analisar imagens fetais.
“O algoritmo de IA do software Sonio Detect é falho e rotula erroneamente estruturas fetais, associando-as a partes do corpo incorretas”, afirmou o relatório, que não menciona nenhum paciente que tenha sofrido danos. O Sonio Detect pertence à Samsung Medison, uma unidade da Samsung Electronics. A Samsung Medison declarou que o relatório da FDA sobre o Sonio Detect “não indica nenhum problema de segurança, nem a FDA solicitou qualquer ação da Sonio”.
O porta-voz do HHS não respondeu às perguntas sobre o Sonio Detect.
Pelo menos 16 relatos alegaram que monitores cardíacos com inteligência artificial, fabricados pela gigante de dispositivos médicos Medtronic, não reconheceram ritmos anormais ou pausas. Nenhum dos relatos mencionou lesões. A Medtronic informou à FDA que alguns dos incidentes foram causados por "confusão do usuário".
Os algoritmos de IA da série LINQ de monitores cardíacos implantáveis da Medtronic são descritos como "inteligência artificial de aprendizado profundo". Segundo o site da empresa , eles reduziram significativamente os falsos alarmes e mantiveram os alertas verdadeiros de eventos cardíacos.
No entanto, a empresa também afirma em seu site e na documentação do produto que sua tecnologia de IA, AccuRhythm AI, pode classificar erroneamente ritmos cardíacos anormais ou pausas reais.
A Medtronic informou à Reuters que revisou todos os 16 episódios e concluiu que seu dispositivo só não detectou um evento de ritmo cardíaco anormal. "Nenhum desses relatos resultou em danos ao paciente", afirmou a empresa.
A Medtronic disse que alguns dos incidentes estavam relacionados a problemas com a exibição de dados, e não com a tecnologia de IA. A empresa se recusou a explicar detalhadamente o que deu errado em cada incidente.
O porta-voz do HHS disse que a agência não discute questões de conformidade, sejam elas possíveis ou em andamento.
Cortes orçamentários da FDA sob o governo Trump
Em entrevistas, cinco cientistas, atuais e antigos, da FDA (Administração de Alimentos e Medicamentos dos EUA) que analisaram dispositivos médicos com inteligência artificial disseram à Reuters que os órgãos reguladores federais estão agora menos preparados para lidar com a avalanche de novos dispositivos.
Há cerca de quatro anos, a FDA expandiu seu quadro de cientistas especializados em IA, particularmente para a avaliação de equipamentos de imagem médica e radiologia que utilizam essa tecnologia.
Muitos dos recrutados foram alocados na Divisão de Imagem, Diagnóstico e Confiabilidade de Software (DIDSR). A unidade tornou-se o principal recurso da agência para avaliar a segurança da IA na medicina, conforme relataram à Reuters um funcionário atual e dois ex-funcionários da FDA. No início do ano passado, o quadro de funcionários cresceu para cerca de 40 pessoas.
“Alguns reguladores de alto escalão não têm ideia de como essas tecnologias funcionam”, disse um ex-funcionário. “Nós nos reunimos de perto com esses reguladores e explicamos a eles por que achamos que essa tecnologia é segura ou não para uso no mercado.”
Não era fácil atrair os melhores talentos para o serviço público. Recrutar cientistas da computação muitas vezes exigia convencê-los a recusar salários mais altos no setor privado.
Em seu trabalho, os cientistas tentaram "quebrar" os modelos de IA dos dispositivos, disse um ex-funcionário. Eles testavam os algoritmos de um dispositivo em diversas situações clínicas e verificavam se o desempenho da IA se deteriorava com o tempo. Também buscavam minimizar as "alucinações", nas quais os modelos de IA às vezes geram informações falsas, escreveram funcionários da FDA em um artigo publicado em outubro.
Mas, no início do ano passado, o governo Trump começou a desmantelar a equipe de IA como parte da campanha de redução de custos de Elon Musk, o Departamento de Eficiência Governamental (DOGE). Cerca de 15 dos 40 cientistas de IA da unidade DIDSR foram demitidos ou optaram por sair, disseram fontes internas da FDA.
Outra unidade que elaborava políticas sobre dispositivos que utilizam IA, o Centro de Excelência em Saúde Digital, perdeu cerca de um terço de sua equipe de aproximadamente 30 pessoas.
Por Jaimi Dowdell , Steve Stecklow , Chad Terhune e Rachael Levy
Reportagem adicional de Kaylee Kang
Fonte: Reuters
O blog é atualizado todas as 3ª, 5ª e sabado.
Preciso da sua Contribuição para o blog continuar ativo DOE AQUI.
Faça a sua publicidade AQUI.
Segue no Instagram.
Segue o canal Planetário Notícias no WhatsApp
O diário proibido de Ana: Amazon
Patrocinadores:
Você terá uma belíssima surpresa, clica no link abaixo:
Comentários