Já se pode afirmar que a saúde no Brasil já entrou na era das inteligências artificiais (IAs). Todo dia, uma nova tecnologia é introduzida no mercado, e o que se pode notar é uma presença forte de sistemas de inteligência artificial, seja na medicina para auxílio de diagnósticos precoces, seja na indústria com o desenvolvimento de novas e mais modernas terapias, seja na assistência.

Apesar do rápido avanço da tecnologia, o fato é que o Brasil ainda não conta com uma legislação específica para regular o desenvolvimento, a implementação e o uso responsável de sistemas de IA. No entanto, isso não quer dizer que os fornecedores e operadores de tecnologias de IA, na saúde ou não, possam atuar no território sem nenhum critério de legalidade. O Marco Civil da Internet e a Lei Geral de Proteção de Dados, além de outras legislações, podem garantir aos fornecedores um sistema legal positivo de desenvolvimento, implementação e uso responsável de IA.

Com vistas a isso, é necessário que tanto os fornecedores quanto os usuários garantam um sistema de governança sóbrio para que possam atuar na prevenção de riscos inerentes à tecnologia e, desde já, atendam princípios já previstos no PL 2338/2022, em trâmite hoje no Senado Federal, como por exemplo, a “rastreabilidade das decisões durante o ciclo de vida de sistemas de inteligência artificial como meio de prestação de contas e atribuição de responsabilidades a uma pessoa natural ou jurídica”.

Em outras palavras, por se tratar de um dos segmentos de dados mais sensíveis do mercado, a adoção do uso de IA na saúde pressupõe cautela para além da legalidade. Portanto, a estruturação do uso da IA, pressupõe uma governança séria e eficiente, seja no acompanhamento, na validação do uso da IA, na tomada de decisões ou no desenvolvimento de políticas de uso em harmonia com princípios éticos e de legalidade. Da mesma forma, critérios como a objetividade da estratégia, o grau de maturidade da Inteligência Artificial , o uso responsável e a sustentabilidade são pilares reveladores do sucesso na adoção do uso da IA na saúde.

Do ponto de vista regulatório, conforme sustentou Aline Macohin, Doutora em Direito pela UFPR. Mestre em Computação Aplicada pela UTFPR, no evento realizado pela Anvisa “debate sobre ética e inteligência artificial” em 18/10/2024, é essencial que os operadores trabalhem a compreensão das limitações do sistema e seus possíveis erros e o entendimento de como o sistema chega ao resultado, além da necessidade de informação/orientação do usuário para fazer bom uso do sistema e de o desenvolvedor do sistema ter uma política de governança de IA e códigos de conduta, e da supervisão humana dos resultados ou revisão dos resultados. Ainda, “é essencial que sejam evitadas as variáveis que possam causar impacto discriminatório ou que perpetuem discriminações e que se mantenha um responsável pelo sistema em caso de danos.”

A conclusão que se pode chegar é que a falta de uma legislação específica não torna a IA uma “terra de ninguém”. Pelo contrário, exige do fornecedor e do operador a responsabilidade de uma governança séria e eficiente. Assim, buscando garantir a implementação de um sistema seguro e confiável em benefício da pessoa humana, evitando incidir em danos diretos e indiretos, que possam afetar a reputação da empresa e da tecnologia, mantando, para isso, uma governança para acompanhando e respostas eficiência.