Compreenda Melhor o Viés na IA

Os sistemas de IA aprendem a partir da inserção de dados que refletem os vieses da sociedade que os produz.

Contudo, segundo um estudo da Nature Medicine, “Os modelos de IA em saúde frequentemente apresentam desempenho desigual entre grupos étnicos e socioeconômicos, pois seus dados de treinamento sub-representam minorias, mulheres e idosos.”

Por exemplo, um sistema de reconhecimento de voz treinado a partir da fala de jovens brasileiros com seus termos da moda pode interpretar mal a fala típica de um idoso com sotaque regional ou com afasia, por exemplo.

Da mesma forma, um relatório elaborado pelo MIT Technology Review ressaltou que algoritmos de reconhecimento facial frequentemente interpretam erroneamente as emoções de pessoas negras porque seus bancos de imagens não são inclusivos.

A Lacuna de Representação na Tecnologia para Demência

No caso do cuidado com a demência, esse viés acentua o problema e, por conseguinte, pode ter efeitos sérios.

Muitos sistemas de IA já até conseguem detectar sinais precoces de declínio cognitivo por meio da fala ou do comportamento do paciente. No entanto, como destacou um estudo feio pelo respeitado Alzheimer’s Disease International, que enfatizou que muitos dos sistemas de IA são treinados com dados cuja fonte são as populações ocidentais, urbanas e de alta renda.

Essa lacuna da “representação humana verdadeira”, significa que os indivíduos de comunidades das regiões rurais ou de baixa renda, especialmente os residentes mais pobres da África, América Latina e Sudeste Asiático correm risco de terem diagnósticos incorretos e, portanto, ficam excluídos de serem analisados com precisão ou, pior, não terem esse privilégio por falta de condições financeiras e outros fatores aqui mencionados.

Em outras palavras, as variações culturais, socioeconômicas e étnicas, podem infuir nos modelos de IA que são treinados com dados limitados, resultando em falsos positivos ou falsos negativos.

👉 Leia também: “4 fatores que aumentam os riscos de problemas cognitivos precoces em comunidades carentes”

Barreiras Socioeconômicas e Acessibilidade

Esse viés da IA não é apenas técnico, é também suspeito, dependendo da região.

Por sinal, a Organização Mundial da Saúde (OMS), um relatório que expediu em 2023 destaca que muitas ferramentas digitais dependem de dispositivos caros ou internet estável, o que exclui milhões de pessoas em de variados contextos de poucos recursos.

E mesmo quando acessíveis, muitos aplicativos só existem em inglês afastando cuidadores que não falam outros idiomas ou têm pouca familiaridade digital.

Como resultado, a tecnologia que poderia facilitar os cuidados na demência pode ter efeito oposto e reforçar as desigualdades porque favorece uma parcela mínima da população mundial: os privilegiados que possuem planos de saúde e acesso a outros equipamentos eletrônicos caros.

Considerações Éticas e Humanas

Dessa forma, com tantos problemas a serem resolvidos, o viés na IA passa a ser um revés porque ela deixa de ser ética e inclusiva.

A demência inclui aspectos de identidade, autonomia e dignidade e quando os algoritmos falhos, estes acabam por influenciar diagnósticos e provocar desequilíbrio nos cuidados que deveriam ser igualitários.Tudo isso, claro, mina a confiança e a justiça social.

Nesse sentido, o Stanford Center for Ethics in AI enfatiza a necessidade de “design centrado no ser humano e culturalmente responsivo” nos algoritmos de saúde que precisam incluir cuidadores, clínicos e pessoas que vivem com demência de várias culturas no processo.

Essa alternativa não é opcional. É essencial para a saúde global.

Construindo uma IA Justa e Inclusiva para Demência

Assim, visando garantir que a tecnologia beneficie a todos, sem discriminação, os desenvolvedores e formuladores de políticas públicas devem agir de forma decisiva:

• Diversificar os Dados de Treinamento: incluir diferentes idiomas, etnias e contextos sociais (Nature Medicine, 2024).
• Colaborar Além das Fronteiras: incentivar parcerias entre universidades, ONGs e comunidades locais (OMS, 2023).
• Localização Cultural: criar interfaces de IA multilíngues e culturalmente sensíveis.
• Acesso Acessível: promover tecnologias de código aberto e financiamento público para regiões de baixa renda.
• Auditoria Contínua: revisar regularmente os sistemas de IA à medida que novos dados surgem.

O Que Isso Significa para os Cuidadores

• As ferramentas de IA são úteis, porém nunca devem substituir o aconselhamento profissional.
• Se o viés pode limitar a precisão no diagnóstico, confirme os resultados com profissionais de saúde.
• Prefira aplicativos multilígues para o cuidado com a demência que sejam, acessíveis e pré-testados em idosos.
• Defenda o design inclusivo compartilhando feedback com desenvolvedores e pesquisadores.

Conclusão

Ninguém questiona que a aplicação da Inteligência Artificial nos cuidados da demência tem importância que pode ser vital para diagnósticos mais precisos e segurança do paciente. Para tanto, precisa ser mais inclusiva, ética e justa de forma global.

O apoio de governos, ONGs e, sobretudo, das Big Tech é fundamental para que essa proposta se torne logo uma realidade sem volta.

Em síntese, combater o viés da IA não é apenas um desafio técnico; é uma responsabilidade ético e moral, pois quando a IA reflete a diversidade humana, ela pode empoderar cada pessoa afetada pela demência restaurando não apenas a memória, mas também sua dignidade através de um tratamento mais igualitário e mais justo.

Assine nossa newsletter quinzenal “MCI and Beyond” e receba conteúdos científicos sobre tratamentos e estratégias para cuidadores da demência.

Referências

1. Organização Mundial da Saúde (OMS). (2023). Relatório Global sobre a Resposta de Saúde Pública à Demência. Genebra: OMS. https://www.who.int/publications/i/item/9789240033245
2. Nature Medicine. (2024). Viés em Inteligência Artificial e Aprendizado de Máquina na Saúde. https://www.nature.com/nm/
3. MIT Technology Review. (2023). O Viés Invisível nos Sistemas de Saúde Baseados em IA. https://www.technologyreview.com/
4. Alzheimer’s Disease International. (2022). Relatório Mundial sobre Alzheimer 2022: Vida Após o Diagnóstico. https://www.alzint.org/resource/world-alzheimer-report-2022/
5. Stanford Center for Ethics in AI. (2023). IA Inclusiva: Construindo Tecnologias de Saúde Equitativas. https://ethicsinaicenter.stanford.edu/
6. MCI and Beyond. (2025). Blog sobre Cuidado com a Demência e Inovação em IA. https://mciandbeyond.org/pt/blog

Palavras-chave: viés na IA, tecnologia para demência, IA inclusiva, inovação em saúde, desigualdade digital, diagnóstico de Alzheimer, IA ética, acessibilidade em saúde, pesquisa sobre Alzheimer, tecnologia para envelhecimento