Artículo

Gestione el sesgo de la IA en lugar de intentar eliminarlo

Para remediar el sesgo incorporado a los datos de la IA, las empresas pueden adoptar un enfoque de tres pasos.

Sian Townson

MIT Sloan Management Review, 2023

Obtenga el artículo

Lea o escuche sin conexión

Amazon Kindle

1×

Войдите, чтобы прослушать аудиоверсию краткого изложения.

Clasificación editorial

Cualidades

Científico
Aplicable
Por expertos

Reseña

Con mayor frecuencia, las empresas están recurriendo a los sistemas de IA para automatizar procesos, el análisis de datos y las interacciones con empleados y clientes. Como resultado, la imparcialidad ha surgido como un problema espinoso. Los sistemas de IA reflejan y perpetúan de forma inherente el sesgo omnipresente en los conjuntos de datos, un defecto que no tiene solución matemática. De forma sucinta y práctica, la experta en gobernanza de riesgos de IA Sian Townson recomienda un enfoque en tres fases para gestionar los sesgos intratables de los sistemas de IA.

Resumen

Los sistemas de IA perpetúan inevitablemente los sesgos.

Los sistemas de inteligencia artificial (IA) generalizan a partir de los datos existentes y, dado que los sesgos impregnan los datos históricos, la IA hará eco de esos sesgo y los perpetuará. Esto ocurre en parte porque, normalmente, existen menos datos acerca de grupos minoritarios. Como consecuencia, los resultados de la IA serán menos precisos para miembros de grupos minoritarios, un problema que afecta los algoritmos para tratamientos médicos, decisiones crediticias, detección de fraudes, mercadotecnia y lectura de textos.

No existe ningún método para evitar que la IA perpetúe el sesgo que existe en datos históricos. Matemáticamente, no puede hacerse. La IA se destaca por descubrir patrones, y los sesgos impregnan los conjuntos ...

Sobre la autora

Sian Townson es experta en marcos de riesgo y gobernanza de la IA y posee un doctorado en modelado matemático por la Universidad de Oxford. Actualmente es socia en la consultora global Oliver Wyman.