Зарегистрируйтесь на getAbstract, чтобы получить доступ к этому краткому изложению.

Sian Townson

Gestione el sesgo de la IA en lugar de intentar eliminarlo

Para remediar el sesgo incorporado a los datos de la IA, las empresas pueden adoptar un enfoque de tres pasos.

MIT Sloan Management Review, 2023

5 мин на чтение

3 основных идей

Аудио и текст

Что внутри?

No puede eliminar el sesgo en los sistemas de IA. En su lugar, aprenda a gestionarlo.

1×

Войдите, чтобы прослушать аудиоверсию краткого изложения.

Clasificación editorial

Мы составляем краткие изложения книг*, помогающих читателям разбираться в законах современного мира и менять его к лучшему. Материалы, которые мы отбираем для нашей библиотеки, должны отвечать по крайней мере одному из наших двух основных критериев:

Информативно. – Вы получите такую информацию, которая позволит вам более взвешенно и эффективно принимать решения.

Полезно. – Вы получите такие практические советы, которые помогут вам лучше делать то, чем вы занимаетесь.

Каждому материалу мы присваиваем рейтинг от 1 до 10 на основе этих двух критериев. Наш рейтинг поможет вам распределить книги в вашем списке для чтения по шкале от добротных (5) до выдающихся (10). По книгам, которые мы оцениваем ниже 5, краткие изложения не составляются. Вот что означают цифры рейтинга:

10 – Великолепно. Полезная и/или информативная книга, которая, помимо соблюдения высочайших стандартов во всех отношениях, выделяется даже среди лучших книг. Как правило, это книга, сразу ставшая классикой, которую должен прочитать каждый.
9 – Отлично. Полезная и/или информативная книга, очень хорошо организованная и написанная, имеющая множество достоинств и не имеющая недостатков, которые заслуживали бы упоминания.
8 – Очень хорошо. Полезная и/или информативная книга, которая имеет много важных достоинств, но при этом не может быть названа выдающейся: например, освещает последние открытия в своей области и написана известным специалистом, но в отношении стиля оставляет желать лучшего.
7 – Хорошо. Полезная и/или информативная книга, имеющая два и более важных достоинства: например, очень увлекательно рассказывающая о новых идеях в какой-то предметной области.
6 – Достойно внимания. Полезная и/или информативная книга, которая обращает на себя внимание по крайней мере каким-то одним аспектом, например четкой организацией материала.
5 – Добротно. Полезная и/или информативная книга, несмотря на очевидные недостатки. Например, в одной области автор может давать разумные советы, а в других или содержится много повторов, или нет ничего особенно ценного.

*getAbstract работает не только с книгами. Мы составляем краткие изложения всех видов контента, которые могут быть полезны нашей аудитории: помимо книг это статьи, отчеты, видео и подкасты. То, что мы говорим здесь о книгах, относится ко всем видам материалов, которые мы пересказываем.

Cualidades

Científico
Aplicable
Por expertos

Рейтинг помогает вам понять, какова ценность книги в соответствии с двумя нашими основными критериями. Но он ничего не сообщает о ее конкретных особенностях. Поэтому мы используем набор из 20 характеристик, которые призваны прояснить, в чем именно состоят достоинства книги.

Практические советы – вы получите рекомендации, которые практически осуществимы на вашем рабочем месте или в повседневных ситуациях.
Аналитический подход – вы поймете внутренние взаимосвязи и закономерности в рассматриваемой проблеме.
История вопроса – вы узнаете об истории и контексте проблемы, что позволит вам правильно провести анализ или совершить хорошо взвешенный шаг.
Особое мнение – вы познакомитесь с аргументами, которые расходятся с преобладающей в настоящий момент точкой зрения.
Подробное освещение – вы увидите все аспекты предмета, описанные исчерпывающим образом.
Конкретные примеры – вам предложат практические советы, которые иллюстрируются рассказами об их применении на практике.
Выразительный язык – вы получите удовольствие от мастерски написанного текста или речи, являющейся образцом ораторского искусства.
Увлекательно – вам будет трудно оторваться от текста или аудио.
Неизвестные факты – вы узнаете об удивительных фактах или умозаключениях.
Начальный уровень – информация будет для вас полезной, если вы новичок, у которого нет знаний по данной теме или опыта.
Продвинутый уровень – информация или рекомендации будут полезны вам как специалисту.
Острая проблема – вы окажетесь в гуще спора по поводу одного из насущных вопросов современности.
Новаторская концепция – вы узнаете о свежих идеях, концепциях, новых продуктах или тенденциях.
Рассказ инсайдера – вы познакомитесь с мнением человека, который имеет особый доступ к сведениям по обсуждаемой теме.
Источник вдохновения – вам захочется сразу же опробовать на практике то, о чем вы прочитали.
Обзор – вы получите общее описание предмета с упоминанием всех основных моментов.
Научные данные – вы узнаете о цифрах и фактах, подкрепленных научными исследованиями.
Взгляд в будущее – вы познакомитесь с авторской картиной будущего и тем, как оно может на вас повлиять.
Четкая структура – хорошая организация материала значительно облегчит вам восприятие концепции или применение рекомендаций на практике.
Спорно – вы познакомитесь с любопытными, но неоднозначными выводами.

Reseña

Con mayor frecuencia, las empresas están recurriendo a los sistemas de IA para automatizar procesos, el análisis de datos y las interacciones con empleados y clientes. Como resultado, la imparcialidad ha surgido como un problema espinoso. Los sistemas de IA reflejan y perpetúan de forma inherente el sesgo omnipresente en los conjuntos de datos, un defecto que no tiene solución matemática. De forma sucinta y práctica, la experta en gobernanza de riesgos de IA Sian Townson recomienda un enfoque en tres fases para gestionar los sesgos intratables de los sistemas de IA.

Resumen

Los sistemas de IA perpetúan inevitablemente los sesgos.

Los sistemas de inteligencia artificial (IA) generalizan a partir de los datos existentes y, dado que los sesgos impregnan los datos históricos, la IA hará eco de esos sesgo y los perpetuará. Esto ocurre en parte porque, normalmente, existen menos datos acerca de grupos minoritarios. Como consecuencia, los resultados de la IA serán menos precisos para miembros de grupos minoritarios, un problema que afecta los algoritmos para tratamientos médicos, decisiones crediticias, detección de fraudes, mercadotecnia y lectura de textos.

No existe ningún método para evitar que la IA perpetúe el sesgo que existe en datos históricos. Matemáticamente, no puede hacerse. La IA se destaca por descubrir patrones, y los sesgos impregnan los conjuntos ...

Sobre la autora

Sian Townson es experta en marcos de riesgo y gobernanza de la IA y posee un doctorado en modelado matemático por la Universidad de Oxford. Actualmente es socia en la consultora global Oliver Wyman.