Eine der aufschlussreichsten Erkenntnisse bei der Betrachtung von KI ist, dass Bürokratien den künstlichen Intelligenzen ähneln: Sie operieren nach Vorschriften, die wir als Gesetze bezeichnen, fügen Regierungsdaten hinzu, und sie treffen Entscheidungen, die unser Leben beeinflussen. Schlecht daran ist, dass wir kaum Überblick über diese Bürokratien haben. Die einzige Kontrolle, die wir ausüben können, ist, sie abzuwählen. Wir müssen Bürokratien genauer überwachen. Wir müssen die Daten aufzeichnen, die in jede ihrer Entscheidungen eingeflossen sind, und wir müssen die Resultate analysieren lassen. Das ist übrigens so, wie es der Gesetzgeber auch vorgesehen hat.
Wenn wir die entscheidungsrelevanten Daten haben, dann können wir auch fragen: Ist der Algorithmus fair? Tut die KI Dinge, die Menschen ethisch vertreten können? Wenn Sie die Daten kontrollieren, dann kontrollieren Sie auch die KI. Ein Prozess, der „Mensch in der Auswertungsschleife“ genannt wird.
Alex Sandy Pentland, sueddeutsche.de, 23.7.2019 (online)
