Muito se discute sobre o papel da inteligência artificial na área da saúde, mas um estudo publicado na JAMA na última terça-feira (19) apontou que essa grande novidade da tecnologia pode atrapalhar os médicos no momento de chegar a um diagnóstico. Segundo o artigo, a equipe médica pode ter dificuldade em detectar quando o sistema dá conselhos tendenciosos, o que pode distorcer a forma como diagnosticam os pacientes.
- IA escuta 10 segundos da sua voz e "diagnostica" diabetes tipo 2
- IA usa radiografia para diagnosticar doenças do coração
Na ocasião, os cientistas testaram um sistema específico de IA projetado para ajudar os médicos a chegar a um diagnóstico. A tecnologia realmente ajudou os médicos a diagnosticar os pacientes com mais precisão, e quando explicava como as decisões foram tomadas, a precisão aumentava ainda mais.
Em contrapartida, quando os investigadores testaram uma IA que foi programada para ser intencionalmente tendenciosa no sentido de fornecer diagnósticos específicos, a utilização diminuiu a precisão dos médicos.
-
Podcast Canaltech: de segunda a sexta-feira, você escuta as principais manchetes e comentários sobre os acontecimentos tecnológicos no Brasil e no mundo. Links aqui: https://canaltech.com.br/360/
-
Para o estudo, os pesquisadores criaram um questionário online que foi apresentado a profissionais da área da saúde, com descrições realistas de pacientes que foram hospitalizados. As descrições incluíam os sintomas e exames de cada paciente fictício.
Durante a pesquisa, cada clínico diagnosticou dois pacientes sem ajuda de IA e seis pacientes com a ajuda da tecnologia, que classificou cada diagnóstico potencial com uma pontuação de certeza que ia de zero a 100.
IA tendenciosa atrapalha diagnósticos
Assim, o time de cientistas analisou respostas de 457 médicos que diagnosticaram pelo menos um paciente fictício. Sem o auxílio de IA, os diagnósticos dos médicos foram precisos em cerca de 73% das vezes. Com a IA padrão e imparcial, esse percentual saltou para 75,9%.
No entanto, a IA tendenciosa diminuiu a precisão dos médicos para 61,7%, além de afetar a seleção dos tratamentos corretos pelos médicos. Os médicos prescreveram o tratamento correto apenas 55,1% das vezes quando mostraram previsões geradas pelo algoritmo tendencioso. A precisão deles sem IA foi de 70,3%.
IA na saúde
Já vimos diversos exemplos de uma boa relação entre a inteligência artificial e a saúde, como no diagnóstico de autismo ou na previsão de acidente vascular cerebral . No entanto, estudos também já destacaram que é necessário tomar cuidado com esse recurso.
No início deste mês, um estudo da Long Island University destacou que o ChatGPT pode fornecer informações erradas sobre remédios e, por conta disso, oferecer riscos aos usuários.
Leia a matéria no Canaltech .
Trending no Canaltech:
- 🔥 PREÇÃO | Compre Galaxy S23 Ultra de 512 GB em ótima oferta
- Fluminense x Manchester City | Onde assistir à final do Mundial de Clubes
- O que Beyoncé veio fazer no Brasil?
- As 50 piadas mais engraçadas do Google Assistente
- Jovem que vazou GTA 6 pode passar o resto da vida em hospital
- Obituário: morte do DCEU enterra uma década de frustração