Regulação da IA na Saúde: que bicho é esse?

À medida que a inteligência artificial evolui e assume um posicionamento de destaque dentro da sociedade é preciso olhar para ela com mais atenção. Por isso, regular tais soluções faz todo sentido

Por Renata Armas, redatora do Unbox

 

Aprender a usar a tecnologia sem ter muito medo dela e/ou de suas implicações parece ser mesmo o grande desafio quando assunto é inteligência artificial. É que muito se fala sobre os riscos e limitações da aplicação da IA na Saúde sem que ainda esteja claro para a maioria as formas possíveis de mitigar esses riscos, para além da regulação e da proteção dos dados. E daí surge mais uma dúvida: será que a criação de leis e de uma agência reguladora que visa a punir os responsáveis por não cumprir os acordos formulados é a melhor saída para acelerar a transformação digital?

Paulo Schor, professor associado de oftalmologia da Escola Paulista de Medicina da Universidade Federal de São Paulo (EPM/Unifesp) e coordenador adjunto de Pesquisa para Inovação da FAPESP, acredita que não: “Penso que em relação à IA temos sempre que buscar o mínimo de regulação com o máximo de celeridade e punição para todos que impedem a tecnologia de funcionar direito”, enfatiza. 

O que apavora o especialista nesse assunto é a regulação da IA surgir como um “atrapalhador” da modernidade e do avanço da ferramenta, algo que é muito mais frequente de acontecer do que o contrário – vide exemplo da própria telemedicina:  “Não sou contra a regulação, mas acho que a própria tecnologia tem ferramentas úteis e seguras para se “autorregular”. E, a partir disso, cabe a cada nação ter uma maior preocupação com a equidade, no sentido de justiça, levando em conta suas particularidades sociais, econômicas e tecnológicas ao invés de simplesmente importar leis universais.”

Quem fará as leis por aqui?

O Brasil nesse quesito já começou a discutir sobre a melhor forma de regular a tecnologia, a partir da criação do Marco Legal da Inteligência Artificial (PL 21/2020), um projeto de lei que aguarda aprovação do legislativo. Rodrigo Guerra, especialista em finanças e inovação e fundador do Projeto Unbox, concorda que o  foco das discussões precisa estar em como vamos chegar a um equilíbrio entre as proibições que a lei impõe e o livre incentivo à inovação, especialmente em um setor conservador e que precisa urgentemente de uma transformação de negócios, como é o caso da Saúde: “Se deixarmos tudo acontecer de forma livre, os riscos do uso da IA serão muitos e potencialmente catastróficos. Por outro lado leis duras demais desincentivam a inovação e o desenvolvimento tecnológico e científico.” 

Encontrar o equilíbrio também é a recomendação de Coriolano Almeida Camargo, coordenador LGPD da Escola Superior da Advocacia Nacional, especialmente ao lembrar que o legislador não consegue acompanhar o ritmo das mudanças tecnológicas atuais. Para o especialista, que também é presidente e fundador da Digital Law Academy, nem tudo deve ou pode ser objeto de controle para não se frustrar a inovação e a geração de empregos e oportunidades: “E, finalmente, a Lei que irá tratar da regulação da inteligência artificial no Brasil precisa conter a defesa da dignidade da pessoa humana como fundamento. ”, defende.

“O homem e sua essência humana e direito à vida digna deve ser o pilar de sustentação da norma que regulamenta o uso da inteligência artificial”,

Coriolano Almeida Camargo, coordenador LGPD da Escola Superior da Advocacia Nacional e presidente e fundador da Digital Law Academy

A ressalva é importante do ponto de vista legal, porque a IA é uma tecnologia com múltiplas aplicações e deve ser utilizada cada vez mais para auxílio na tomada de decisões importantes em diferentes setores. “É sabido que muito pode ser automatizado pela ferramenta, mas a experiência de um advogado ou do médico não pode ser descartada”, deixa claro Camargo, que continua: “Para um futuro próximo, podemos esperar uma firme regulamentação da IA no Brasil, já que uma comissão de juristas tem sido responsável por orientar os projetos de Lei 5.051/2019, 21/2020 e 872/2021”. Todos têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil. 

Foco na Saúde

Especificamente neste setor, a Organização Mundial da Saúde (OMS) desenvolveu seis princípios para direcionar o desenvolvimento da IA na Saúde. Em essência elas mostram que a tecnologia está a serviço dos profissionais da Saúde e não o contrário: “O médico e outros profissionais de Saúde continuarão a ser o principal elo entre o paciente e a inteligência artificial, trazendo empatia e humanização para essa relação”, diz Aldir Rocha, sócio consultor da Lozinsky Consultoria.

• Proteger a autonomia humana.
• Promover o bem-estar, segurança  humana e interesse público.
• Garantia de transparência e inteligibilidade.
• Promoção de responsabilidade e prestação de contas.
• Garantia de inclusão e equidade.
• Promoção de IA responsiva e sustentável.

E o desenvolvedor, como fica?

Para Aldir Rocha, sócio consultor da Lozinsky Consultoria, a regulamentação da IA na Saúde é um dilema existencial e sensível pelo seu significado, pois a tecnologia estará diretamente ligada à vida e à morte de um ser humano. “Mas é claro que tanto quem investe no desenvolvimento da tecnologia como quem a utiliza precisar ter algum tipo de proteção jurídica, ou seja, conhecer bem as regras do jogo para saber como cumpri-las e não acarretar em um dano futuro.”

“A regulação é importante tanto para quem consome como para quem desenvolve a inteligência artificial. Assim, haverá proteção jurídica estabelecida por regras bem conhecidas para que amanhã ou depois as empresas de software não sejam penalizadas por situações não previstas”

Aldir Rocha, sócio consultor da Lozinsky Consultoria

A transparência nesse sentido é tão importante, que Aldir Rocha defende até mesmo a possibilidade de auditar os códigos usados no desenvolvimento da solução para evitar códigos maliciosos, restritivos e/ou preconceituosos. O PL 21/2020 avança justamente nesses pontos ao estabelecer como princípios o respeito à dignidade humana, transparência nos algoritmos e proteção dos dados pessoais: “Penso que esses três pilares norteadores são um bom ponto de partida, pois estão centrados na proteção do indivíduo”, justifica Rocha. 

Todas essas questões estão conectadas também à Lei Geral de Proteção de Dados (LGPD), implantada em agosto de 2020 e cujas punições por descumprimento acabaram de começar, em 27 de fevereiro de 2023. 

Olhe fora para se inspirar

A inteligência artificial embora seja bastante discutida ainda é uma tecnologia muito recente e sua popularização tem acontecido nos últimos meses. O ChatGPT, por exemplo, proporcionou um uso mais acessível da ferramenta, não sem antes provocar burburinhos sobre direitos autorais e manipulação de viés. Isso, claro, tem feito com que muitos países no mundo se apressem em criar leis próprias em paralelo com a rápida ascensão da tecnologia e como ela vai moldar o futuro das relações em diversos setores da sociedade – e da economia, claro. 

O atual relatório de “Regulação da Inteligência Artificial – benchmarking de países selecionados”, criado pela Escola Nacional de Administração Pública (Enap) destaca o modelo de regulação de IA nos Estados Unidos, que hoje já é feito por agências reguladoras e pelos estados da federação: “Esse modelo está sendo debatido e poderia deixar as relações mais seguras e ágeis sem parar a inovação. É que por lá há ações específicas de coordenação por parte do governo para posicionar o país como liderança em pesquisa e desenvolvimento de IA, nos âmbitos público e privado. Portanto, há prioridade para o fortalecimento de pesquisa e desenvolvimento da competitividade do país em IA”.

Já o Japão, segundo país a desenvolver estratégias nacionais de IA e a estabelecer metas e alocar orçamento para o tema, tem agências governamentais japonesas que adotam a abordagem de “soft-law” para lidar com possíveis vieses da tecnologia de IA. “O país busca criar uma governança ágil, com o objetivo de não prejudicar investimentos e não impedir a inovação”, deixa claro o documento. 

Para Coriolano Camargo parecem razoáveis estes modelos flexíveis, porque as demais autoridades e os Tribunais não são descartados do processo de fiscalização. Já Aldir Rocha lembra ainda que existem países nos quais as questões éticas e morais precisam estar em evidência nessa discussão, uma vez que a inteligência artificial pode segregar e discriminar indivíduos: “Por isso acredito que faça mesmo sentido subordinar a regulação da IA a um órgão como a Agência Nacional de Proteção de Dados (ANPD) que vai resguardar a privacidade dos indivíduos simultaneamente.”

“Temos que ter claro que a inteligência artificial manipula dados e, se esses dados já estão protegidos pela LGPD, o enviesamento do resultado da sua transformação está sob sua devida responsabilidade legal. Na Holanda, por exemplo, o projeto de regulação está sendo desenvolvido nesse sentido”  

Aldir Rocha, sócio consultor da Lozinsky Consultoria

Mas volte-se para si também

O físico teórico Stephen Hawking dizia que “a criação bem-sucedida de inteligência artificial seria o maior evento na história da humanidade”. Coriolano Camargo contesta a profecia dizendo que, se não aprendermos desde já a mitigar e regular seus riscos, ela pode também ser a nossa última criação: “Nós precisamos de uma IA  bem treinada e adaptada às necessidades dos profissionais da Saúde, mas que também nos ofereça  segurança desde a sua criação.”

E continua: “Se olharmos a história da humanidade, as máquinas sempre foram adaptadas para a guerra, para submeter outros povos. E em pleno século XXI assistimos a guerra entre a Rússia e a Ucrânia, com a utilização de drones, supercomputadores, armas cibernéticas. O homem é capaz de grandes feitos, mas poucos líderes são capazes de incutir nas mentes de outros a ideia de que precisamos da tecnologia para o progresso por meio da paz e da união entre os povos.”

 

Leia mais
IA e Saúde: como deixar essa combinação promissora menos arriscada
Inteligência artificial na Saúde: “O  maior risco de todos ainda é o da ignorância”