Livro

Mais do que uma Falha

Confrontando vieses de raça, gênero e capacidade no mundo da tecnologia

MIT Press, 2023

Leia ou escute offline

1×

Avaliação Editorial

Na getAbstract, resumimos os livros* que ajudam as pessoas a entenderem o mundo, tornando-o um lugar melhor. Tudo o que selecionamos para a nossa biblioteca deve se destacar em uma das duas qualidades principais a seguir:

Esclarecedor – Você vai aprender conteúdos que vão ajudar você a tomar decisões melhores.

Útil – Você vai seguir conselhos práticos que vão ajudar você a se aprimorar no que faz.

Classificamos cada conteúdo em uma escala de 1 a 10 em relação a estas duas qualidades principais. As nossas avaliações ajudam você a escolher os títulos para a sua lista de leitura, indo de robusto (5) a brilhante (10). Os livros que classificamos abaixo de 5 não são resumidos. A seguir, confira o significado de cada nível da avaliação:

10 – Brilhante. Um livro útil e/ou esclarecedor que, além de atender aos mais elevados padrões em todos os aspectos pertinentes, destaca-se até mesmo entre os melhores. Ele se torna muitas vezes um clássico instantâneo e uma leitura obrigatória para qualquer pessoa.
9 – Superior. Um livro útil e/ou esclarecedor que é extremamente completo, tem muitos pontos fortes e nenhuma deficiência a ser mencionada.
8 – Muito bom. Um livro útil e/ou esclarecedor que tem um número substancial de qualidades notáveis sem se sobressair em todas as áreas. Apresenta as últimas descobertas em um tópico e é escrito por um especialista renomado, mas carece de um pouco de estilo.
7 – Bom. Um livro útil e/ou esclarecedor que combina dois ou mais pontos fortes notáveis; por exemplo, contém ideias incomumente novas e as apresenta de uma maneira envolvente.
6 – Notável. Um livro útil e/ou esclarecedor que se destaca por pelo menos um aspecto; por exemplo, é particularmente bem estruturado.
5 – Robusto. Um livro útil e/ou esclarecedor, apesar das suas deficiências óbvias. Por exemplo, pode oferecer conselhos decentes em algumas áreas, ao mesmo tempo que é repetitivo ou normal demais em outras.

*A getAbstract resume muito mais do que apenas livros. Analisamos todo tipo de conteúdo que possa interessar ao nosso público: além de livros, resumimos também artigos, relatórios, video talks e podcasts. O que apresentamos aqui sobre os livros se aplica a todos os formatos cobertos.

Qualidades

Revelador
Audaz
Inspirador

Embora a classificação indique a qualidade de um livro de acordo com nossos dois critérios principais, ela não diz muito sobre suas características definidoras específicas. Portanto, utilizamos um conjunto de 20 qualidades para caracterizar cada livro de acordo com os seus pontos fortes:

Aplicável – Você vai receber conselhos que podem ser aplicados diretamente no local de trabalho ou em situações cotidianas.
Analítico – Você vai entender o funcionamento interno do assunto.
Conhecimento Contextualizado – Você vai obter conhecimentos contextuais como um modelo para ação ou análise consciente.
Controverso – Você vai ser confrontado com opiniões capazes de gerar debates fervorosos.
Audaz – Você vai encontrar argumentos que podem romper com perspectivas predominantes.
Abrangente – No resumo vão ser abordados todos os aspectos do assunto.
Exemplos Práticos – Você vai receber conselhos práticos ilustrados com exemplos práticos ou histórias do mundo real.
Eloquente – Você vai desfrutar de um texto extremamente bem escrito ou apresentado.
Cativante – Você vai querer ler ou assistir o conteúdo até o final.
Revelador – Você vai ter acesso a ideias altamente surpreendentes.
Para Iniciantes – Você vai encontrar uma boa cartilha caso seja um aprendiz com pouca ou nenhuma experiência/conhecimento prévio.
Para Especialistas – Você vai obter os conhecimentos ou instruções de alto nível que necessita como especialista.
Hot Topic – Você vai estar no meio de uma questão altamente debatida.
Inovativo – Você vai receber ideias e insights mais recentes sobre novos produtos ou tendências.
Conhecimento de Causa – Você vai ter o privilégio de aprender com alguém que conhece profundamente o assunto.
Inspirador – Você vai querer colocar em prática imediatamente o que acabou de ler.
Panorama Geral – Você vai receber uma abordagem ampla do assunto, na qual todos os seus principais aspectos são mencionados.
Baseado na Ciência – Você vai obter fatos e números baseados em pesquisas científicas.
Visionário – Você vai ter uma ideia do futuro e do que isso pode significar para a sua vida.
Bem-estruturado – Você vai receber um conteúdo particularmente bem organizado para facilitar o seu entendimento ou aplicação.

Recomendação

Talvez a sua tendência seja descartar situações de viés da máquina por acreditar que sejam “falhas”. No entanto, elas são estruturais e refletem o racismo, o sexismo e o capacitismo do mundo real, afirma a professora de jornalismo de dados Meredith Broussard. A tecnologia deve funcionar para todos – ninguém pode se sentir impedido de utilizar a tecnologia com base na cor da pele, sexo, idade ou habilidade. Broussard apresenta vários estudos de caso de viés da máquina, detalhando os danos causados em áreas como policiamento e assistência médica. Ela desafia as Big Tech a prestarem contas e trabalharem em prol do interesse público.

Ideias Fundamentais

O viés da máquina é um problema estrutural que requer soluções complexas.
As máquinas “aprendem” a manter o status quo e replicar sistemas opressivos.
A confiança dos órgãos de policiamento nos algoritmos tendenciosos tem um custo humano alto.

Sobre a autora

Meredith Broussard é jornalista especializada em ciência de dados e autora de vários livros, incluindo Artificial Unintelligence: How Computers Misunderstand the World. Ela também atua como professora associada no Journalism Institute da New York University e diretora de pesquisa da NYU Alliance for Public Interest Technology.