Artigo

Gerencie os Vieses da IA ao Invés de Tentar Eliminá-los

Remedie os vieses embutidos nos dados de IA adotando uma abordagem em três etapas.

Sian Townson

MIT Sloan Management Review, 2023

Acesse o Artigo

Leia ou escute offline

Amazon Kindle

1×

Faça o Login para ouvir o resumo em áudio.

Avaliação Editorial

Na getAbstract, resumimos os livros* que ajudam as pessoas a entenderem o mundo, tornando-o um lugar melhor. Tudo o que selecionamos para a nossa biblioteca deve se destacar em uma das duas qualidades principais a seguir:

Esclarecedor – Você vai aprender conteúdos que vão ajudar você a tomar decisões melhores.

Útil – Você vai seguir conselhos práticos que vão ajudar você a se aprimorar no que faz.

Classificamos cada conteúdo em uma escala de 1 a 10 em relação a estas duas qualidades principais. As nossas avaliações ajudam você a escolher os títulos para a sua lista de leitura, indo de robusto (5) a brilhante (10). Os livros que classificamos abaixo de 5 não são resumidos. A seguir, confira o significado de cada nível da avaliação:

10 – Brilhante. Um livro útil e/ou esclarecedor que, além de atender aos mais elevados padrões em todos os aspectos pertinentes, destaca-se até mesmo entre os melhores. Ele se torna muitas vezes um clássico instantâneo e uma leitura obrigatória para qualquer pessoa.
9 – Superior. Um livro útil e/ou esclarecedor que é extremamente completo, tem muitos pontos fortes e nenhuma deficiência a ser mencionada.
8 – Muito bom. Um livro útil e/ou esclarecedor que tem um número substancial de qualidades notáveis sem se sobressair em todas as áreas. Apresenta as últimas descobertas em um tópico e é escrito por um especialista renomado, mas carece de um pouco de estilo.
7 – Bom. Um livro útil e/ou esclarecedor que combina dois ou mais pontos fortes notáveis; por exemplo, contém ideias incomumente novas e as apresenta de uma maneira envolvente.
6 – Notável. Um livro útil e/ou esclarecedor que se destaca por pelo menos um aspecto; por exemplo, é particularmente bem estruturado.
5 – Robusto. Um livro útil e/ou esclarecedor, apesar das suas deficiências óbvias. Por exemplo, pode oferecer conselhos decentes em algumas áreas, ao mesmo tempo que é repetitivo ou normal demais em outras.

*A getAbstract resume muito mais do que apenas livros. Analisamos todo tipo de conteúdo que possa interessar ao nosso público: além de livros, resumimos também artigos, relatórios, video talks e podcasts. O que apresentamos aqui sobre os livros se aplica a todos os formatos cobertos.

Qualidades

Baseado na Ciência
Aplicável
Conhecimento de Causa

Embora a classificação indique a qualidade de um livro de acordo com nossos dois critérios principais, ela não diz muito sobre suas características definidoras específicas. Portanto, utilizamos um conjunto de 20 qualidades para caracterizar cada livro de acordo com os seus pontos fortes:

Aplicável – Você vai receber conselhos que podem ser aplicados diretamente no local de trabalho ou em situações cotidianas.
Analítico – Você vai entender o funcionamento interno do assunto.
Conhecimento Contextualizado – Você vai obter conhecimentos contextuais como um modelo para ação ou análise consciente.
Controverso – Você vai ser confrontado com opiniões capazes de gerar debates fervorosos.
Audaz – Você vai encontrar argumentos que podem romper com perspectivas predominantes.
Abrangente – No resumo vão ser abordados todos os aspectos do assunto.
Exemplos Práticos – Você vai receber conselhos práticos ilustrados com exemplos práticos ou histórias do mundo real.
Eloquente – Você vai desfrutar de um texto extremamente bem escrito ou apresentado.
Cativante – Você vai querer ler ou assistir o conteúdo até o final.
Revelador – Você vai ter acesso a ideias altamente surpreendentes.
Para Iniciantes – Você vai encontrar uma boa cartilha caso seja um aprendiz com pouca ou nenhuma experiência/conhecimento prévio.
Para Especialistas – Você vai obter os conhecimentos ou instruções de alto nível que necessita como especialista.
Hot Topic – Você vai estar no meio de uma questão altamente debatida.
Inovativo – Você vai receber ideias e insights mais recentes sobre novos produtos ou tendências.
Conhecimento de Causa – Você vai ter o privilégio de aprender com alguém que conhece profundamente o assunto.
Inspirador – Você vai querer colocar em prática imediatamente o que acabou de ler.
Panorama Geral – Você vai receber uma abordagem ampla do assunto, na qual todos os seus principais aspectos são mencionados.
Baseado na Ciência – Você vai obter fatos e números baseados em pesquisas científicas.
Visionário – Você vai ter uma ideia do futuro e do que isso pode significar para a sua vida.
Bem-estruturado – Você vai receber um conteúdo particularmente bem organizado para facilitar o seu entendimento ou aplicação.

Recomendação

Cada vez mais, as empresas estão recorrendo aos sistemas de IA para automatizar os seus processos, análise de dados e interações com funcionários e clientes. Como resultado, a equidade emerge como um problema complicado. Os sistemas de IA refletem e perpetuam vieses generalizados e característicos nos conjuntos de dados – uma falha que não tem solução matemática. De maneira sucinta e implementável, Sian Townson, especialista em governança de risco de IA, recomenda uma abordagem de três fases para gerir os vieses irremediáveis dos sistemas de IA.

Resumo

Os sistemas de IA perpetuam inevitavelmente os vieses.

Os sistemas de inteligência artificial (IA) generalizam a partir dos dados existentes e, como os dados históricos são permeados por vieses, a IA tende a ecoar e perpetuar esses vieses. Os vieses da IA ocorrem em parte porque, normalmente, existem menos dados de entrada para grupos minoritários. Como consequência, os resultados da IA irão gerar menor precisão para membros de grupos minoritários – um problema que afeta algoritmos aplicados nos cuidados de saúde, decisões de crédito, detecção de fraudes, marketing e leitura de textos.

Não existe nenhum método para impedir que a IA perpetue os vieses existentes nos dados históricos. Matematicamente, isso não pode ser feito. A IA se fundamenta e destaca na descoberta de padrões...

Sobre a autora

Sian Townson é especialista em riscos de IA e estruturas de governança e possui doutorado em modelagem matemática pela Universidade de Oxford. Atualmente trabalha como sócia da consultoria global Oliver Wyman.