El algoritmo ético

La ciencia del diseño de algoritmos con conciencia social

Oxford UP, 2019

15 Minuten Lesezeit

7 Take-aways

Audio & Text

Was ist drin?

¿Pueden los humanos programar a las computadoras para que se comporten éticamente? En algunos casos, sí.

1×

Melden Sie sich an, um die Audiozusammenfassung anzuhören.

Clasificación editorial

Cualidades

Científico
Revelador
Visionario

Reseña

Los algoritmos deciden qué anuncios ve la gente en línea y si los consumidores obtienen préstamos. Estas “recetas” que preparan las computadoras adquieren cada vez más poder sobre la vida de los humanos. ¿Acaso lo ejercen de manera justa? ¿Pueden los humanos diseñar algoritmos que se comporten de manera ética? El mensaje de Michael Kearns y Aaron Roth, informáticos de la Universidad de Pensilvania, es que sí… a veces. Kearns y Roth explican cuándo los humanos pueden esperar que los algoritmos se comporten éticamente y en qué casos la informática aún lucha por lograrlo.

Resumen

Los algoritmos plantean cuestiones de privacidad, justicia, seguridad, transparencia, responsabilidad e, incluso, moralidad.

Las empresas y los gobiernos acumulan grandes cantidades de datos sobre nosotros. Las computadoras los recogen y analizan de acuerdo con ciertos algoritmos. Esto conduce a la obtención de valiosos conocimientos y ayuda a proporcionar servicios. Pero también puede divulgar información privada. Y un algoritmo puede tomar o proponer decisiones sobre personas que ellas considerarían injustas o inmorales. Algunos enfoques utilizan algoritmos que procesan los datos de acuerdo con instrucciones paso a paso. Otros usan el aprendizaje automático, que permite que el sistema evolucione. Tales sistemas construyen modelos internos que son difíciles de entender para los humanos. Y mientras procesan los datos de acuerdo con sus reglas, estos sistemas pueden incluso llegar a obtener soluciones que ofenden las normas sociales.

Las regulaciones pueden ayudar a garantizar que los sistemas se utilicen de acuerdo con su propósito. Y cuando los desarrolladores diseñan algoritmos con un propósito, lo ideal es que se guíen por los principios...

Sobre los autores

Michael Kearns, PhD, es profesor de informática y ciencias de la información en la Universidad de Pennsylvania. Ha trabajado en aprendizaje de máquinas e investigación de inteligencia artificial en AT&T Bell Labs. Aaron Roth, PhD, es profesor asociado de informática y ciencias de la información en la Universidad de Pennsylvania.