Gerencie os Vieses da IA ao Invés de Tentar Eliminá-los

Remedie os vieses embutidos nos dados de IA adotando uma abordagem em três etapas.

MIT Sloan Management Review, 2023

5 Minuten Lesezeit

3 Take-aways

Audio & Text

Was ist drin?

É impossível eliminar os vieses nos sistemas de IA. Em vez disso, aprenda a gerenciá-los.

1×

Melden Sie sich an, um die Audiozusammenfassung anzuhören.

Avaliação Editorial

Qualidades

Baseado na Ciência
Aplicável
Conhecimento de Causa

Recomendação

Cada vez mais, as empresas estão recorrendo aos sistemas de IA para automatizar os seus processos, análise de dados e interações com funcionários e clientes. Como resultado, a equidade emerge como um problema complicado. Os sistemas de IA refletem e perpetuam vieses generalizados e característicos nos conjuntos de dados – uma falha que não tem solução matemática. De maneira sucinta e implementável, Sian Townson, especialista em governança de risco de IA, recomenda uma abordagem de três fases para gerir os vieses irremediáveis dos sistemas de IA.

Resumo

Os sistemas de IA perpetuam inevitavelmente os vieses.

Os sistemas de inteligência artificial (IA) generalizam a partir dos dados existentes e, como os dados históricos são permeados por vieses, a IA tende a ecoar e perpetuar esses vieses. Os vieses da IA ocorrem em parte porque, normalmente, existem menos dados de entrada para grupos minoritários. Como consequência, os resultados da IA irão gerar menor precisão para membros de grupos minoritários – um problema que afeta algoritmos aplicados nos cuidados de saúde, decisões de crédito, detecção de fraudes, marketing e leitura de textos.

Não existe nenhum método para impedir que a IA perpetue os vieses existentes nos dados históricos. Matematicamente, isso não pode ser feito. A IA se fundamenta e destaca na descoberta de padrões...

Sobre a autora

Sian Townson é especialista em riscos de IA e estruturas de governança e possui doutorado em modelagem matemática pela Universidade de Oxford. Atualmente trabalha como sócia da consultoria global Oliver Wyman.