Discussão também traz os desafios éticos e práticos, destacando a necessidade de regulamentação da IA
21 de maio de 2024 – O Summit da Abramed, realizado durante a Hospitalar 2024, abriu espaço para um importante debate: a regulamentação da Inteligência Artificial na saúde. O painel fez parte do evento que reuniu importantes nomes do setor para discutir soluções tecnológicas, sob o tema “Transformação Digital na Saúde: Como a Inteligência Artificial está moldando o futuro do cuidado”, no último dia 21 de maio, no São Paulo Expo.
O presidente do Conselho de Administração da Abramed, Cesar Nomura, deu as boas-vindas e iniciou a programação, que contou com duas palestras e dois debates para tratar dos impactos da Inteligência Artificial (IA) na saúde, além de aspectos regulatórios e éticos sobre o tema.
Ainda na abertura, Milva Pagano, diretora-executiva da entidade, apresentou institucionalmente a Abramed e mostrou a recém pesquisa lançada pela associação sobre o “Uso da Inteligência Artificial na Medicina Diagnóstica”, a publicação está disponível no site www.abramed.org.br.
Sob o tema “Os desafios regulatórios da Inteligência Artificial na saúde”, uma palestra introdutória com Guilherme Forma Klafke, líder de Projetos no Centro de Ensino e Pesquisa em Inovação na FGV, abriu a segunda parte da programação. Para Klafke, a regulamentação é o elemento faltante em termos de diretrizes específicas e mostrou por que é necessário regulamentar: pela segurança jurídica; inclusão, eficácia e efetividade; responsabilidade, deveres de governança e fiscalização; realocação de responsabilidade; e deveres de conduta.
“Temos no Brasil uma proposta de regulamentação, o PL 2338, e nele foram associados todos os outros projetos. Existe uma Comissão temporária de IA, que começou em agosto de 2023, e a previsão é que em 18 de junho seja a votação desse PL”, resumiu.
Nesse ponto, o líder de projetos da FGV ressaltou alguns aspectos relevantes, como a categorização dos agentes segundo o risco. “Se a organização possui um sistema de IA que pode colocar em risco a vida ou a integridade das pessoas, ou se o sistema falhar na avaliação da gravidade do atendimento, é essencial ter uma supervisão rigorosa. A decisão final deve ser humana, ou um humano deve ser capaz de interromper o sistema, se necessário”, expôs.
Foi mostrado, ainda, como será a categorização do risco, que dependerá de regulamentação futura, baseada em critérios como: impacto negativo sobre direitos e liberdades; alto potencial de dano material, moral ou discriminatório; afetação de grupos vulneráveis, como crianças; e riscos de danos à saúde e à integridade física.
Logo após a palestra, Klafke integrou um debate moderado por Rogéria Leoni Cruz, líder do Comitê de Proteção de Dados da Abramed e Diretora Jurídica do Hospital Albert Einstein, com a participação de Marcelo Abreu, head de radiologia do Hospital Mãe de Deus, e de Fábio Cunha, membro do Grupo de Trabalho em Inteligência Artificial do Conselho Nacional de Justiça (CNJ).
Rogéria começou com o questionamento: “Temos um Projeto de Lei e há muitas discussões sobre o tema, inclusive no CNJ, na Anahp e na Abramed. Como será o futuro da saúde a partir da evolução dessa tecnologia e de outras que irão surgir?”
“Com a observação dos movimentos regulatórios e do cenário internacional, onde se desenvolve uma corrida neopolítica em torno da regulação da IA, é necessário um controle e uma fiscalização mais rigorosos tanto da cadeia de saúde quanto do sistema de governança”, analisou Klafke.
Quanto ao papel da IA na radiologia e seus benefícios, Abreu destacou a intenção da indústria em sua rápida implementação. “Trabalho principalmente com ressonância e tomografia e estou preocupado com a direção que essa tecnologia inovadora está tomando, especialmente em relação à precisão. O diagnóstico clínico deve ser baseado em análise dos exames e dados, podendo ter interferências artificiais, desde que testadas adequadamente. A IA aumenta a eficiência e reduz os custos operacionais. Na área de imagem, é possível aprimorar a qualidade, mas como exatamente isso será feito? Precisamos avaliar os possíveis erros decorrentes disso. Embora traga benefícios e seja vista como uma promessa de revolução, questiono até que ponto uma solução específica pode ser utilizada”, ponderou.
Foi discutido, ainda, como equilibrar a necessidade de regulamentação na área da saúde, garantindo a segurança dos pacientes sem sufocar o progresso tecnológico. “Um ponto fundamental a ser considerado é que, em uma indústria como a da saúde, demonstrar segurança ao paciente fortalece a reputação e traz ganhos. A regulamentação se alinha à ideia de proporcionar segurança aos pacientes e estabilidade jurídica ao mercado”, afirmou Klafke.
Em relação aos desafios éticos relacionados à coleta e armazenamento de dados, bem como à garantia da privacidade e confidencialidade do paciente, levantados pela moderadora do debate, Abreu propôs: “Deveria existir um sistema que concedesse um selo, certificando que os dados estão sendo anonimizados. Essa validação, de acordo com os padrões de boas práticas na utilização de dados, nos traria uma maior segurança”.
E quanto às informações que já foram coletadas? “O PL não fornece uma documentação específica para os sistemas já desenvolvidos. É uma lacuna, e a transição ainda é carente. Será essencial realizar uma avaliação de impacto desses algoritmos, considerando o propósito e a função do sistema, a fim de fazer escolhas mais informadas”, observou Abreu.
No painel, Rogéria também enfatizou a importância do treinamento da comunidade médica para o uso da IA. “O Conselho Federal de Medicina já está debatendo como deve ser a regulamentação. Uma das principais preocupações é se essa tecnologia pode impactar a prática e a qualidade médica, e qual seria a responsabilidade do médico caso se oponha ao seu uso. Neste momento, o Conselho busca compreender esse avanço e aprender, sem impedir o progresso tecnológico por preocupações ainda não comprovadas”, explicou Cunha.
Por sua vez, Abreu ressaltou que o mercado enfrentou desafios significativos com o surgimento de tecnologias disruptivas e, com a chegada da IA, talvez a abordagem seja de “vamos regular isso adequadamente”, razão pela qual se adota a estratégia de implementar microrregulações. “O objetivo é evitar repetir o que aconteceu com as redes sociais, pois a ausência de regulamentação para proteger as crianças resultou em mudanças em toda uma geração”, explicou.
Respondendo à pergunta da plateia, o membro do Grupo de Trabalho em Inteligência Artificial do CNJ destacou a posição da indústria, dos fabricantes e inventores. “Poderíamos aproveitar esse momento e criar um mapa de benefícios em aplicações. Isso incluiria o acesso às populações carentes e a integração de dados, bem como a redução de custos no sistema de saúde brasileiro, utilizando as tecnologias disponíveis no setor privado. Há muitas oportunidades, por isso, precisamos discernir o que pode ser empregado efetivamente. No setor de saúde, nosso objetivo é alcançar o paciente antes mesmo da manifestação da doença”, concluiu.
Rogéria finalizou ressaltando que a discussão não se encerrava ali e expressando a expectativa pela implementação da regulamentação em breve, visando alcançar um equilíbrio entre deveres, riscos e responsabilidade civil.
