A crescente complexidade dos sistemas digitais e a onipresença da inteligência artificial (IA) têm intensificado os debates sobre a ética dos algoritmos, também conhecida como “algorethics”. Esse conceito aborda a responsabilidade moral e social no desenvolvimento e uso de algoritmos, com impacto direto em áreas críticas da vida humana, especialmente na saúde. 

O termo ganhou destaque no início de 2023, após um encontro no Vaticano entre representantes do judaísmo, cristianismo e islamismo. Juntos, eles lançaram um apelo por um desenvolvimento ético da IA. O Papa Francisco reforçou a importância de que “a algorética, ou reflexão ética sobre o uso de algoritmos, esteja cada vez mais presente não apenas no debate público, mas também no desenvolvimento de soluções técnicas”. 

No cenário global, a ética dos algoritmos tem se tornado uma pauta prioritária para legisladores, pesquisadores e empresas de tecnologia. Instituições como a União Europeia e o Fórum Econômico Mundial têm promovido diretrizes para garantir o uso responsável e justo dos algoritmos. Nos Estados Unidos, o debate tem influenciado políticas públicas e a criação de leis voltadas à proteção dos cidadãos contra práticas discriminatórias e invasivas. 

No Brasil, essa preocupação também vem crescendo, especialmente com o avanço da adoção de tecnologias digitais. A Lei Geral de Proteção de Dados (LGPD), em vigor desde 2020, reflete essa mudança, estabelecendo regras rigorosas para a coleta, processamento e armazenamento de dados pessoais, com o objetivo de proteger a privacidade dos cidadãos e assegurar o uso ético e responsável dessas informações. 

A aplicação da ética dos algoritmos na saúde é especialmente crítica devido à sensibilidade dos dados e à potencial interferência direta na vida dos pacientes. A inovação tecnológica promete revolucionar a saúde, com diagnósticos mais precisos e tratamentos personalizados. No entanto, a implementação de IA e algoritmos na área exige cuidados rigorosos para evitar consequências negativas. 

Recentemente, o Instituto Ética Saúde iniciou discussões com a Agência Nacional de Saúde Suplementar (ANS), destacando a necessidade de maior atenção ao tema dentro dos esforços de melhoria contínua na jornada do paciente. Em 2024, o tema da algorética será pauta na revisão do Marco de Consenso Brasileiro para a Colaboração Ética Multissetorial na Área da Saúde, promovida pelo Instituto e entidades setoriais. 

Alguns pontos de atenção são essenciais: 

1. Proteção de dados dos pacientes 

Os algoritmos em saúde lidam frequentemente com grandes volumes de dados pessoais e clínicos, tornando crucial a proteção dessas informações. Medidas como: 

  • Anonimização de dados: sempre que possível, para que a identidade dos pacientes não seja rastreável. 
  • Segurança da informação: implementação de criptografia e outras medidas para prevenir acessos não autorizados. 
  • Transparência e consentimento: os pacientes devem ser informados sobre o uso de seus dados e dar consentimento para seu uso em pesquisas e desenvolvimento de algoritmos. 

2. Prevenção de viés algorítmico 

Os algoritmos de saúde devem ser projetados para evitar vieses e discriminação, que podem resultar em diagnósticos imprecisos ou tratamentos inadequados. Para mitigar esse risco, é necessário: 

  • Diversidade nos dados de treinamento: assegurar que os dados usados para treinar algoritmos representem adequadamente todas as populações. 
  • Auditorias e revisões: realizar auditorias regulares para identificar e corrigir possíveis fontes de viés. 

3. Integridade e precisão das decisões 

A integração de IA na prática clínica deve garantir decisões precisas e confiáveis. Para isso: 

  • Validação e testes rigorosos: os algoritmos devem ser testados em ambientes controlados antes da implementação. 
  • Monitoramento contínuo: estabelecer sistemas para detectar e corrigir problemas após a implementação. 

À medida que avançamos para um futuro cada vez mais digital, é essencial que profissionais de saúde, desenvolvedores de tecnologia e legisladores colaborem para criar um ambiente ético e seguro para a aplicação de IA e algoritmos na saúde. 

A IA não é mais o futuro, é o presente. Por isso, é fundamental que a utilizemos de maneira correta e responsável no nosso dia a dia. 

*Carlos Eduardo Gouvêa é diretor de Relações Institucionais do Instituto Ética Saúde e Filipe Venturini Signorelli é diretor Executivo do Instituto Ética Saúde.