Black Friday: Assine a partir de 1,49/semana
Imagem Blog

Fernanda Mayol

Materia seguir SEGUIR Seguindo Materia SEGUINDO
Sócia da McKinsey & Company, lidera a Prática de Pessoas, Organização e Performance no Brasil.
Continua após publicidade

Boas práticas para a construção de uma IA diversa e inclusiva

Os dados para desenvolver a inteligência artificial podem refletir disparidades sociais, raciais e de gênero prevalentes na sociedade. Saiba como evitar.

Por Fernanda Mayol, colunista de VOCÊ RH
11 out 2024, 16h51
Ilustração de uma IA auxiliando no trabalho.
 (Guzaliia Filimonova/Getty Images)
Continua após publicidade

Da imprensa de Gutenberg à internet, dos computadores pessoais aos smartphones que usam tecnologia 5G, das escassas consultas em lugares remotos às telecirurgias. As ondas de inovação carregam consigo possibilidades de democratizar o acesso à informação, melhorar a qualidade de vida de muitos e, assim, talvez levar à construção de uma sociedade mais justa.

O assunto do momento é a inteligência artificial e seu potencial transformador. Direta ou indiretamente, ela já permeia muito do que fazemos e consumimos. Segundo uma recente pesquisa da McKinsey, 72% das empresas já usam IA e 65% exploram a IA generativa em pelo menos uma função de negócio. Quase 100% dos entrevistados já fizeram uso de ferramentas de Gen AI pelo menos uma vez no trabalho ou fora dele.

A capacidade dos sistemas de IA de processar, analisar, sintetizar e criar a partir de uma enorme quantidade de dados carrega esperanças de que eles possam reduzir a zero vieses nos processos de tomada de decisão que tradicionalmente são influenciados pela subjetividade (e falha) humana. Porém, à medida que nos adentramos nesse reino, nos deparamos com riscos reais de os modelos reproduzirem padrões que perpetuam estereótipos e preconceitos.

A principal fonte de vieses em IA não está nos algoritmos em si, mas nos dados usados ​​para treinar e desenvolver os modelos. Esses dados, geralmente coletados de registros existentes, podem refletir disparidades sociais, raciais e de gênero prevalentes na sociedade. Como resultado, reforçam padrões e exacerbam diferenças.

Continua após a publicidade

Considere, por exemplo, um cenário em que um determinado algoritmo de IA usado no setor de saúde é projetado para prever níveis de risco de pacientes para certas doenças. Se o algoritmo for treinado somente com dados históricos, ele pode perpetuar vieses existentes no sistema de saúde, potencialmente levando a resultados – como diagnósticos e recomendações – falhos para grupos de pacientes sub-representados (recomendo, inclusive, a leitura deste artigo da McKinsey sobre o gap na saúde da mulher).  

O que pode ser feito

O copo meio cheio desta discussão é que estamos no início de uma nova onda tecnológica e, portanto, num momento de inflexão. É hora de estabelecermos práticas que promovam a construção de uma inteligência artificial diversa e inclusiva, em vez de escolher tratar o tema como uma reflexão tardia.

Para empresas comprometidas em combater vieses nos modelos de IA, é importante refletir sobre os seguintes pontos:

Defina diversidade como um valor essencial

Estabeleça o combate a vieses como um princípio orientador em todos os esforços relacionados à IA. Assegure que esse compromisso permeie a cultura organizacional e os processos de tomada de decisão.

Continua após a publicidade

Invista na detecção e mitigação de vieses 

Realize avaliações e testes constantes para identificar, mensurar e corrigir vieses nos modelos de IA. Implemente estratégias nos diferentes estágios de desenvolvimento, do planejamento à implementação.

Crie comitês de diretrizes 

Estruture grupos de trabalho dedicados a avaliar potenciais riscos e promover diretrizes éticas para o desenvolvimento da IA assegurando transparência nos dados e nos processos.

Promova a diversidade dos dados e a representatividade das equipes

Assegure-se de que os modelos de IA sejam treinados usando conjuntos de dados diversos e representativos que reflitam o espectro completo da população. Promova treinamentos de conscientização para programadores e capacitações para grupos sub-representados, promovendo a inclusão e a diversidade nas equipes.

Essas e outras ações podem ajudar a moldar um futuro em que a tecnologia serve a todos de maneira mais justa. Cada passo dado hoje para promover a diversidade e a inclusão pavimenta o caminho para um amanhã mais brilhante. A colaboração entre humanos e máquinas – o que chamamos de “inteligência híbrida” – tem o potencial de criar uma sociedade em que a inovação é guiada pela ética e pelo compromisso com a diversidade.

Continua após a publicidade
Compartilhe essa matéria via:
Publicidade

Matéria exclusiva para assinantes. Faça seu login

Este usuário não possui direito de acesso neste conteúdo. Para mudar de conta, faça seu login

Black Friday

A melhor notícia da Black Friday

BLACK
FRIDAY
Digital Completo
Digital Completo

Acesso ilimitado ao site, edições digitais e acervo de todos os títulos Abril nos apps*

a partir de 5,99/mês*

ou
BLACK
FRIDAY

MELHOR
OFERTA

Impressa + Digital
Impressa + Digital

Receba Você RH impressa e tenha acesso ilimitado ao site, edições digitais e acervo de todos os títulos Abril nos apps*

a partir de 10,99/mês

ou

*Acesso ilimitado ao site e edições digitais de todos os títulos Abril, ao acervo completo de Veja e Quatro Rodas e todas as edições dos últimos 7 anos de Claudia, Superinteressante, VC S/A, Você RH e Veja Saúde, incluindo edições especiais e históricas no app.
*Pagamento único anual de R$71,88, equivalente a 5,99/mês.

PARABÉNS! Você já pode ler essa matéria grátis.
Fechar

Não vá embora sem ler essa matéria!
Assista um anúncio e leia grátis
CLIQUE AQUI.