A inteligência artificial tem evoluído muito rapidamente dentro da Google, sendo hoje uma presença assídua nos resultados de pesquisa.
No caso da saúde, a Google teve de recuar e desativar o AI Overview para termos médicos depois de algumas respostas apresentarem riscos para o utilizador.
Google limita respostas de IA em pesquisas médicas após identificar riscos
A Google começou a retirar os resumos gerados por inteligência artificial em pesquisas médicas sensíveis, depois de vários casos em que o sistema apresentou informações potencialmente perigosas ou enganadoras.
A decisão surge na sequência de uma investigação do jornal The Guardian, que levantou sérias dúvidas sobre a fiabilidade das chamadas AI Overviews quando aplicadas a temas de saúde.
Em causa está a forma como a IA do Google respondia a perguntas aparentemente simples, mas clinicamente complexas, podendo levar os utilizadores a interpretações erradas sobre o seu estado de saúde.
Quando respostas genéricas se tornam um problema real
Um dos exemplos identificados envolve pesquisas como “valores normais das análises ao fígado”.
Nestes casos, a IA apresentava intervalos genéricos, sem considerar fatores essenciais como idade, sexo, histórico clínico ou contexto médico.
Na prática, isto podia levar uma pessoa a assumir que resultados preocupantes eram normais, atrasando a procura de cuidados médicos.
Aplicado à escala do motor de busca mais usado do mundo, este tipo de falha deixa de ser pontual e passa a representar um risco real para a saúde pública.
Após a publicação da investigação, o próprio The Guardian confirmou que, em algumas dessas pesquisas, os resumos automáticos deixaram de aparecer.
No entanto, bastavam pequenas variações na pergunta, como o uso de siglas médicas, para que a IA voltasse a gerar respostas, mostrando como é difícil controlar este tipo de sistema em larga escala.
Questionada sobre este problema, a Google reagiu com cautela. Um porta-voz explicou que a empresa está constantemente a melhorar o motor de pesquisa e que não comenta alterações específicas. Acrescentou ainda que equipas internas com médicos avaliaram os casos e concluíram que muitas das respostas não eram tecnicamente incorretas.
Ainda assim, o simples facto de a Google ter optado por desativar os resumos de IA em determinadas pesquisas médicas mostra que existe uma linha muito ténue entre informação geral e aconselhamento médico potencialmente perigoso.
Organizações de saúde consideram a medida positiva, mas insuficiente. Para o British Liver Trust, uma das principais instituições do Reino Unido na área da saúde hepática, a remoção é um passo na direção certa, mas não resolve o problema estrutural.
A questão, defendem, não é ajustar uma ou outra pesquisa, mas sim avaliar se a IA generativa deve sequer ser usada como intermediária em temas clínicos.
Sobre o autor
Aproveite a campanha:
