Inteligência artificial na Saúde: “O maior risco de todos ainda é o da ignorância”

O ser humano sempre buscou pela mágica: quer algo que aconteça sem que seja preciso entender como. Com tecnologias como a IA e o machine learning o preço pelo desconhecimento é alto demais

Por Renata Armas, redatora do Unbox

 

Desenvolvimento de remédios e vacinas, preditividade diagnóstica e até o tratamento de ponta contra câncer, Alzheimer e outras doenças graves…. é cada vez mais longa a lista de benefícios reais da aplicação da inteligência artificial na Saúde. Igualmente muitos são os riscos em potencial do uso indiscriminado da tecnologia, sem a devida reflexão e análise por parte de sociedade, governos e desenvolvedores. Por isso, discutir mais sobre a aplicação prática desse tipo de inovação na transformação de negócios da Saúde  é urgente e diz respeito a todos nós.

E, não, não estamos falando do risco da IA “roubar” empregos e ocupar espaços estritamente humanos – ainda que muitos confessem ter esse medo em um futuro próximo. A discussão aqui proposta é mais ampla e envolve até mesmo a humanização contida na tecnologia, afinal, a IA e o machine learning são permeados de vieses como pré-concepções e julgamentos de valores.

Pensar em soluções guiadas pela ética na construção da inteligência artificial ou até mesmo em uma regulação robusta para a tecnologia podem ajudar a endereçar o problema, segundo Rodrigo Guerra, especialista em finanças e inovação e fundador do Projeto Unbox: “A inteligência artificial pode, sim, trazer consigo alguns perigos e riscos importantes, especialmente quando usada em uma área vital como a Saúde. Por isso,todos precisamos pensar mais sobre como vamos usá-la  para que os humanos não sejam presa fácil da tecnologia que eles próprios criaram.” 

“Quem ignora a ciência por trás do desenvolvimento de uma
tecnologia e desconhece todas as suas possibilidades de ação, certamente fará um péssimo uso do equipamento. E é isso o que está acontecendo com a inteligência artificial”

Paulo Schor, professor de oftalmologia da EPM/Unifesp e coordenador adjunto de Pesquisa para Inovação da FAPESP

Risco imediato

Um dos riscos mais imediatos, na opinião de Paulo Schor, é o de repulsa da tecnologia por causa da ignorância. “Digo que esse é o risco principal porque quando as pessoas não sabem o que a inteligência artificial proporciona o risco de um mau uso é muito maior”, deixa claro ele, que é professor associado de oftalmologia da Escola Paulista de Medicina da Universidade Federal de São Paulo (EPM/Unifesp) e coordenador adjunto de Pesquisa para Inovação da FAPESP.

Para justificar seu receio, Schor compara ciência e tecnologia, duas áreas vitais à Saúde: “Enquanto a primeira produz conhecimento ao mesmo tempo em que ‘complexifica’ mais a nossa existência, a tecnologia faz exatamente o oposto: traz respostas rápidas e simples para os problemas, ainda que não saibamos o que está acontecendo dentro da máquina.” 

E entre áreas tão distintas o professor chama atenção para o desejo de usá-las ao mesmo tempo, sem passar por uma espécie de escala, ou seja, um completo entendimento das ferramentas em questão. “Isso é verdade tanto para o carro automático que não vai sair do lugar para quem apertar o freio ao invés do acelerador como para a inteligência artificial na Saúde”, exemplifica. 

A saída para absorver uma tecnologia que foi feita a partir de uma ciência complicada e complexa é apenas uma: ler o manual de instrução, ou seja, conhecer mais profundamente a ferramenta para, pelo menos, fazer um bom uso da solução. Até para depois poder expandir a discussão para seus principais riscos. 

Limitações e críticas

Em 2001 fomos todos apresentados ao termo IA (ou AI, em inglês) que dá nome ao famoso filme do Steven Spielberg sobre o tema. De lá para cá, muitos ainda entendem a inteligência artificial como uma estatística avançada, a partir de um mecanismo de agrupamento e correlação entre dados. Mas a IA é muito mais do que preditividade e não deve tomar de vez o emprego de profissionais da medicina. 

É verdade que o machine learning, criado para análise de números, hoje analisa imagens médicas. Ainda assim, tecnicamente não há diferenças na ciência que envolve a IA do que já existia antigamente, o que não justifica o receio pelas máquinas tomarem os empregos em um futuro próximo, explica Schor: “Do mesmo modo que pessoas pensantes para a estatística não perderam seus empregos, isso não vai acontecer com a popularização da ferramenta. Mas há uma ressalva importante: todos os técnicos, ou seja, pessoas que realizam trabalhos que podem ser automatizados, repetitivos e previsíveis, como o desenho e gráficos estatísticos, por exemplo, podem ser substituídos por máquinas, sim.”

 Não tenha medo de perder seu emprego para a inteligência artificial.
Mas fique esperto para saber se o que você realiza hoje já não é algo obsoleto e que poderia estar sendo feito por uma máquina

Isso posto, os riscos reais da popularização da tecnologia talvez sejam mais sutis para a maioria da população. E a ameaça do viés talvez seja a principal delas, como afirma Rodrigo Guerra:  “Já que chatbots e sistemas de IA são projetados e treinados por seres humanos, eles podem facilmente incorporar os mesmos preconceitos e discriminações presentes na sociedade.” Isso, inclusive, já aconteceu com a assistente virtual Tay da Microsoft que,  em menos de 24 horas de uso, precisou ser descontinuada por causa da mudança em seu discurso, que se tornou racista, transfóbico e preconceituoso. 

Portanto, cabe aos desenvolvedores da tecnologia ter mais atenção aos vieses para tentar evitar resultados injustos e perpetuar a desigualdade social. Ter representatividade nos dados usados para o machine learning é um dos caminhos para mitigar esse risco, mas não o único. Estarmos atentos como sociedade é igualmente importante. E, novamente, para tanto, é preciso conhecer os riscos. 

Conteúdo originalmente publicado no Portal Terra; https://www.terra.com.br/vida-e-estilo/saude/ia-na-saude-o-maior-risco-de-todos-ainda-e-o-da-ignorancia,13a03045dc2faf267593516aca30b890xsacf646.html 

 

Leia mais

IA e Saúde: como deixar essa combinação promissora menos arriscada
IA e Machine learning na Saúde: agora é a hora certa de investir
IA e machine learning: afinal, quando a Saúde se tornará digital?