Artículo

Gestione el sesgo de la IA en lugar de intentar eliminarlo

Para remediar el sesgo incorporado a los datos de la IA, las empresas pueden adoptar un enfoque de tres pasos.

Sian Townson

MIT Sloan Management Review, 2023

Obtenga el artículo

Lea o escuche sin conexión

Amazon Kindle

1×

Connectez-vous pour écouter un résumé audio.

Clasificación editorial

getAbstract synthétise des ouvrages* qui permettent aux utilisateurs de mieux comprendre le monde pour le rendre meilleur. Quel que soit le livre que nous sélectionnons pour notre bibliothèque, il doit se distinguer par l'un ou l'autre des deux critères suivants :

Enrichissant – Les enseignements que vous en tirerez orienteront et amélioreront vos décisions.

Utile – Les conseils pratiques qui sont dispensés vous aideront à améliorer la prise de décision.

Nous évaluons chaque contenu sur une échelle de 1 à 10 en fonction de ces deux qualités essentielles . La note attribuée vous permet de classer les titres de votre liste de lecture de Plaisant (5) à Excellent (10). Les livres qui obtiennent moins de 5 ne font pas l'objet d'une publication. Voici ce que signifie chaque note :

10 – Excellent. Un livre utile et/ou instructif qui, outre ses nombreuses qualités, fait office de classique du genre. Une référence.
9 – Superbe. Un livre utile et/ou instructif extrêmement bien écrit et structuré, qui présente de multiples caractéristiques positives et aucune lacune notable.
8 – Très bien. Un livre utile et/ou instructif qui présente de multiples caractéristiques positives mais quelques points faibles. L'ouvrage peut par exemple présenter les dernières découvertes dans un domaine spécialisé et être rédigé par un expert, mais pécher par son style d'écriture.
7 – Bien. Un livre utile et/ou instructif, qui combine deux ou plusieurs caractéristiques positives. Il peut par exemple contenir des idées novatrices, présentées de manière engageante.
6 – Appréciable. Un livre utile et/ou instructif, qui présente au moins un aspect engageant. Il peut, par exemple, être particulièrement bien structuré.
5 – Plaisant. Un livre utile et/ou instructif, même si le contenu pourrait être amélioré. Ce livre peut par exemple prodiguer des conseils utiles dans certains domaines, mais être répétitif et sans relief particulier.

*getAbstract synthétise bien plus que des livres. Nous recherchons tous types de contenus pouvant intéresser nos lecteurs : des livres, mais également des articles, des rapports, des vidéos et des podcasts. Nos classifications sont valables pour les livres, mais également pour les autres formats que nous proposons.

Cualidades

Científico
Aplicable
Por expertos

Si la notation vous indique le niveau qualitatif du livre en fonction de nos deux critères principaux, elle n'explique aucune caractéristique particulière. Nous nous appuyons donc sur 20 qualités qui définissent les traits essentiels de l'ouvrage :

Pratique – Vous obtiendrez des conseils que vous pourrez aisément mettre en pratique sur votre lieu de travail ou dans des situations quotidiennes.
Analytique – Vous comprendrez les mécanismes internes du sujet abordé.
Connaissance du contexte – Vous aurez accès à des connaissances contextuelles pouvant servir de base à l'action ou à l'analyse.
Audacieux – Vous découvrirez des arguments susceptibles de rompre avec les points de vue dominants.
Complet – Vous trouverez une étude exhaustive du sujet.
Exemples concrets – Vous obtiendrez des conseils pratiques illustrés par des récits d'applications concrètes ainsi que des anecdotes authentiques.
Polémique – Vous serez confronté à des idées faisant l'objet d'un débat animé.
Éloquent –Vous prendrez plaisir à découvrir un ouvrage rédigé ou composé de main de maître.
Captivant – Vous serez captivé par cet ouvrage du début à la fin.
Révélateur – Vous découvrirez des informations très surprenantes.
Niveau débutant – Cet ouvrage constitue un bon point de départ si vous avez peu ou aucune expérience/connaissance du domaine traité.
Niveau Expert – Vous obtiendrez des informations/recommandations spécialisées utiles dans votre domaine de spécialité.
Sujet d'actualité – Plongez au cœur d'un thème qui fait l'objet d'un vif débat.
Innovant – Découvrez des idées et des concepts innovants sur des tendances et des produits inédits.
Vu de l'intérieur – Vous aurez le privilège d'être initié par un spécialiste du domaine.
Stimulant – Vous aurez envie de mettre immédiatement en pratique les conseils prodigués.
Aperçu – Vous acquerrez une appréciation globale du sujet et de ses aspects principaux.
Approche scientifique – Vous aurez accès à des faits et des chiffres fondés sur la recherche scientifique.
Visionnaire – Vous aurez un aperçu de l'avenir et ce qu'il vous réserve.
Bien structuré – Vous trouverez ce contenu particulièrement bien structuré, ce qui facilite l'adhésion à ses idées ou leur mise en œuvre.

Reseña

Con mayor frecuencia, las empresas están recurriendo a los sistemas de IA para automatizar procesos, el análisis de datos y las interacciones con empleados y clientes. Como resultado, la imparcialidad ha surgido como un problema espinoso. Los sistemas de IA reflejan y perpetúan de forma inherente el sesgo omnipresente en los conjuntos de datos, un defecto que no tiene solución matemática. De forma sucinta y práctica, la experta en gobernanza de riesgos de IA Sian Townson recomienda un enfoque en tres fases para gestionar los sesgos intratables de los sistemas de IA.

Resumen

Los sistemas de IA perpetúan inevitablemente los sesgos.

Los sistemas de inteligencia artificial (IA) generalizan a partir de los datos existentes y, dado que los sesgos impregnan los datos históricos, la IA hará eco de esos sesgo y los perpetuará. Esto ocurre en parte porque, normalmente, existen menos datos acerca de grupos minoritarios. Como consecuencia, los resultados de la IA serán menos precisos para miembros de grupos minoritarios, un problema que afecta los algoritmos para tratamientos médicos, decisiones crediticias, detección de fraudes, mercadotecnia y lectura de textos.

No existe ningún método para evitar que la IA perpetúe el sesgo que existe en datos históricos. Matemáticamente, no puede hacerse. La IA se destaca por descubrir patrones, y los sesgos impregnan los conjuntos ...

Sobre la autora

Sian Townson es experta en marcos de riesgo y gobernanza de la IA y posee un doctorado en modelado matemático por la Universidad de Oxford. Actualmente es socia en la consultora global Oliver Wyman.