Article

Gérez les biais de l’IA au lieu d’essayer de les éliminer

Pour gérer les biais intégrés dans les données d’IA, les entreprises peuvent adopter une approche en trois étapes.

Sian Townson

MIT Sloan Management Review, 2023

Obtenir l'article

Lire ou écouter hors ligne

Amazon Kindle

1×

Faça o Login para ouvir o resumo em áudio.

Classement éditorial

Na getAbstract, resumimos os livros* que ajudam as pessoas a entenderem o mundo, tornando-o um lugar melhor. Tudo o que selecionamos para a nossa biblioteca deve se destacar em uma das duas qualidades principais a seguir:

Esclarecedor – Você vai aprender conteúdos que vão ajudar você a tomar decisões melhores.

Útil – Você vai seguir conselhos práticos que vão ajudar você a se aprimorar no que faz.

Classificamos cada conteúdo em uma escala de 1 a 10 em relação a estas duas qualidades principais. As nossas avaliações ajudam você a escolher os títulos para a sua lista de leitura, indo de robusto (5) a brilhante (10). Os livros que classificamos abaixo de 5 não são resumidos. A seguir, confira o significado de cada nível da avaliação:

10 – Brilhante. Um livro útil e/ou esclarecedor que, além de atender aos mais elevados padrões em todos os aspectos pertinentes, destaca-se até mesmo entre os melhores. Ele se torna muitas vezes um clássico instantâneo e uma leitura obrigatória para qualquer pessoa.
9 – Superior. Um livro útil e/ou esclarecedor que é extremamente completo, tem muitos pontos fortes e nenhuma deficiência a ser mencionada.
8 – Muito bom. Um livro útil e/ou esclarecedor que tem um número substancial de qualidades notáveis sem se sobressair em todas as áreas. Apresenta as últimas descobertas em um tópico e é escrito por um especialista renomado, mas carece de um pouco de estilo.
7 – Bom. Um livro útil e/ou esclarecedor que combina dois ou mais pontos fortes notáveis; por exemplo, contém ideias incomumente novas e as apresenta de uma maneira envolvente.
6 – Notável. Um livro útil e/ou esclarecedor que se destaca por pelo menos um aspecto; por exemplo, é particularmente bem estruturado.
5 – Robusto. Um livro útil e/ou esclarecedor, apesar das suas deficiências óbvias. Por exemplo, pode oferecer conselhos decentes em algumas áreas, ao mesmo tempo que é repetitivo ou normal demais em outras.

*A getAbstract resume muito mais do que apenas livros. Analisamos todo tipo de conteúdo que possa interessar ao nosso público: além de livros, resumimos também artigos, relatórios, video talks e podcasts. O que apresentamos aqui sobre os livros se aplica a todos os formatos cobertos.

Caractéristiques

Approche scientifique
Pratique
Vu de l'intérieur

Embora a classificação indique a qualidade de um livro de acordo com nossos dois critérios principais, ela não diz muito sobre suas características definidoras específicas. Portanto, utilizamos um conjunto de 20 qualidades para caracterizar cada livro de acordo com os seus pontos fortes:

Aplicável – Você vai receber conselhos que podem ser aplicados diretamente no local de trabalho ou em situações cotidianas.
Analítico – Você vai entender o funcionamento interno do assunto.
Conhecimento Contextualizado – Você vai obter conhecimentos contextuais como um modelo para ação ou análise consciente.
Controverso – Você vai ser confrontado com opiniões capazes de gerar debates fervorosos.
Audaz – Você vai encontrar argumentos que podem romper com perspectivas predominantes.
Abrangente – No resumo vão ser abordados todos os aspectos do assunto.
Exemplos Práticos – Você vai receber conselhos práticos ilustrados com exemplos práticos ou histórias do mundo real.
Eloquente – Você vai desfrutar de um texto extremamente bem escrito ou apresentado.
Cativante – Você vai querer ler ou assistir o conteúdo até o final.
Revelador – Você vai ter acesso a ideias altamente surpreendentes.
Para Iniciantes – Você vai encontrar uma boa cartilha caso seja um aprendiz com pouca ou nenhuma experiência/conhecimento prévio.
Para Especialistas – Você vai obter os conhecimentos ou instruções de alto nível que necessita como especialista.
Hot Topic – Você vai estar no meio de uma questão altamente debatida.
Inovativo – Você vai receber ideias e insights mais recentes sobre novos produtos ou tendências.
Conhecimento de Causa – Você vai ter o privilégio de aprender com alguém que conhece profundamente o assunto.
Inspirador – Você vai querer colocar em prática imediatamente o que acabou de ler.
Panorama Geral – Você vai receber uma abordagem ampla do assunto, na qual todos os seus principais aspectos são mencionados.
Baseado na Ciência – Você vai obter fatos e números baseados em pesquisas científicas.
Visionário – Você vai ter uma ideia do futuro e do que isso pode significar para a sua vida.
Bem-estruturado – Você vai receber um conteúdo particularmente bem organizado para facilitar o seu entendimento ou aplicação.

Commentaires

Les entreprises se tournent de plus en plus vers les systèmes d’IA pour automatiser leurs processus, l’analyse des données et les interactions avec les employés et les clients. De ce fait, l’équité est devenue un problème épineux. En effet, les systèmes d’IA reflètent et perpétuent intrinsèquement les biais omniprésents dans les ensembles de données – un défaut qui n’a pas de solution mathématique. De manière succincte et concrète, Sian Townson, experte en gouvernance des risques liés à l’IA, recommande une approche en trois phases pour gérer les biais insurmontables des systèmes d’IA.

Résumé

Les systèmes d’IA perpétuent inévitablement les biais.

Les systèmes d’intelligence artificielle (IA) font des généralisations à partir des données existantes et, comme les données historiques sont biaisées, l’IA répercutera et perpétuera ces biais. Les biais liés à l’IA s’expliquent en partie par la disponibilité généralement limitée de données pour les groupes minoritaires. Les résultats de l’IA seront donc moins précis pour les membres de ces groupes. Cela pose des problèmes en ce qui concerne les algorithmes utilisés pour les traitements médicaux, les décisions d’octroi de crédit, la détection des fraudes, le marketing et le contenu textuel.

Aucune méthode ne peut empêcher l’IA de perpétuer les biais des données historiques. Cela est mathématiquement impossible. L’IA excelle dans la découverte de modèles, et les biais sont trop profondément...

À propos de l’auteur

Sian Townson est spécialiste en matière de risques liés à l’IA et de cadres de gouvernance. Elle est titulaire d’un doctorat en modélisation mathématique de l’université d’Oxford. Elle travaille actuellement en tant qu’associée pour le cabinet de conseil mondial Oliver Wyman.