A inteligência artificial já vem sendo utilizada no campo da medicina. Uma das ferramentas disponíveis para este fim é a Med-Gemini, desenvolvida pelo Google. O objetivo é que a tecnologia auxilie na realização de diagnósticos, por exemplo.
A própria empresa divulgou alguns resultados das avaliações feitas pela IA. O problema é que, em um destes casos, a ferramenta simplesmente inventou uma parte do corpo que não existe. Uma falha que passou despercebida por toda a equipe da big tech.
Google reconheceu o erro da IA
O alerta foi divulgado em publicação feita no portal The Verge.
O Med-Gemini diagnosticou um “old left basilar ganglia infarct”.
O correto, no entanto, seria “basal ganglia” (gânglios basais), uma estrutura bem documentada no cérebro.
Segundo especialistas, trata-se de um exemplo de alucinação da IA, quando um sistema gera termos plausíveis, mas incorretos.
O Google respondeu que a IA de fato identificou corretamente uma lesão, mas usou a terminologia errada.
Leia mais
Microsoft diz que sua IA supera médicos em diagnósticos nos EUA
5 doenças que a inteligência artificial já auxilia no diagnóstico
Esta IA pode medir a agressividade do câncer
Falhas podem gerar consequências graves
O erro provavelmente foi causado pela associação indevida entre “basal ganglia” e “basilar artery”, que são duas estruturas diferentes do cérebro. Apesar de parecer pequena, esta falha pode ser extremamente perigosa pensando no tratamento adotado para o paciente.
O episódio aumenta as discussões sobre o uso da tecnologia para realização de diagnósticos médicos sem supervisão humana constante. O Med-Gemini, por exemplo, promete analisar exames de imagem, interpretar prontuários e auxiliar em diagnósticos.
No entanto, testes recentes revelaram outras fragilidades. Com a nova versão da IA, chamada MedGemma, profissionais da saúde perceberam variações nas respostas da máquina de acordo com a forma como as perguntas eram formuladas. Pequenas mudanças no enunciado resultaram em diagnósticos diferentes para o mesmo exame.
O post IA médica do Google inventou parte do corpo que não existe apareceu primeiro em Olhar Digital.
