Kuratore
Wie Sie Maschinen zähmen
Artikel

Wie Sie Maschinen zähmen

Maschinelles Lernen und Ethik

Boris Babic, I. Glenn Cohen, Theodoros Evgeniou und Sara Gerke
Harvard Business Manager, 2021
Zum Artikel

Offline lesen

  • 0.5×
  • 0.75×
  • 1×
  • 1.25×
  • 1.5×
  • 1.75×
1×

Bewertung der Redaktion

8

Qualitäten

  • Umsetzbar
  • Überblick
  • Praktische Beispiele

Rezension

Selbstlernende Systeme versprechen Effizienz, fundierte Entscheidungen und Lösungen für komplexe Probleme. Doch Manager sollten nicht unterschätzen, wie fehlerbehaftet KI-Anwendungen sind. Ethik ist ihnen ohnehin fremd. Den Maschinen das Lernen zu verbieten ist jedoch genauso problematisch. Harvard- und Insead-Experten zeigen in diesem Artikel, welche Risiken der Einsatz selbstlernender Systeme birgt und wie man sie unter Kontrolle hält. Der Mensch wird zur Aufsichtsbehörde, und für die gilt: Genau hinsehen!

Zusammenfassung

Selbstlernende Systeme sind in einem komplexen Umfeld zwangsläufig fehlerbehaftet.

Immer mehr Produkte und Dienstleistungen bauen auf selbstlernende Systeme auf. Die Erwartung an die Algorithmen: Sie sollen komplexe Entscheidungen effizient und zuverlässig treffen. Etwa Käufe und Verkäufe von Finanzprodukten, medizinische Diagnosen oder wann ein selbstfahrendes Auto bremsen soll. Und das mit zunehmender Treffsicherheit – weil sie dazulernen, je mehr Daten sie verarbeiten. Dieses Potenzial ist da. Aber Machine-Learning-Systeme machen auch Fehler. Die wichtigsten Gründe dafür sind:

  • Maschinen entscheiden meist nach Wahrscheinlichkeit. Damit beurteilen sie zwangsläufig eine Anzahl Einzelfälle falsch – je nach Quantität und Qualität der zugrunde liegenden Daten recht viele. 
  • Die Daten, mit denen die Systeme in der Praxis arbeiten, können deutlich von denen abweichen, mit denen sie trainiert wurden. Etwa wenn eine in ruhigen Zeiten entwickelte Börsensoftware Anlageentscheidungen inmitten einer Pandemie treffen muss. 

Andere Entscheidungen können ...

Über die Autoren

Boris Babic ist Assistant Professor an der Insead Business School. I. Glenn Cohen ist Professor am Petrie-Flom Center der Harvard Law School. Theodoros Evgeniou ist Professor an der Insead Business School. Sara Gerke ist Research Fellow am Petrie-Flom Center.

Kommentar abgeben oder Diskussion beginnen