Talvez a sua tendência seja descartar situações de viés da máquina por acreditar que sejam “falhas”. No entanto, elas são estruturais e refletem o racismo, o sexismo e o capacitismo do mundo real, afirma a professora de jornalismo de dados Meredith Broussard. A tecnologia deve funcionar para todos – ninguém pode se sentir impedido de utilizar a tecnologia com base na cor da pele, sexo, idade ou habilidade. Broussard apresenta vários estudos de caso de viés da máquina, detalhando os danos causados em áreas como policiamento e assistência médica. Ela desafia as Big Tech a prestarem contas e trabalharem em prol do interesse público.
O viés da máquina é um problema estrutural que requer soluções complexas.
As pessoas assumem que os computadores podem resolver problemas sociais, mas isso nem sempre é verdade. As máquinas somente podem calcular a justiça matemática, que é diferente da justiça social. Um computador pode ser programado para criar matematicamente uma solução, mas isso não significa que os seus algoritmos sejam livres de vieses e de tomadas de decisão neutras. Os programadores são seres humanos que trazem os seus preconceitos – como aqueles enraizados no racismo, privilégio e ganância – para os seus trabalhos. A crença de que a tecnologia irá resolver os problemas sociais indica um grande nível de “tecnochauvinismo”, ignorando o fato de que existe sim o viés da máquina e que igualdade muitas vezes difere de justiça ou equidade.
As pessoas raramente desenvolvem tecnologias tendenciosas intencionalmente. A maioria dos engenheiros talvez acredite incorretamente que esteja construindo uma tecnologia “neutra”. Como exemplo de viés da máquina, veja o caso do vídeo de um dispensador de sabonete “racista” que se tornou viral em 2017: um homem de pele mais escura descobriu que o dispensador de...
Meredith Broussard é jornalista especializada em ciência de dados e autora de vários livros, incluindo Artificial Unintelligence: How Computers Misunderstand the World. Ela também atua como professora associada no Journalism Institute da New York University e diretora de pesquisa da NYU Alliance for Public Interest Technology.
Comente sobre este resumo ou 开始讨论