Mit ihnen wird KI trainiert, sie geben den Konzernen Macht. Sie machen es möglich, dass KI lernt, anhand unseres Alters, unserer Herkunft, unserer Queerness oder Nichtqueerness zu entscheiden, welche Werbung wir bekommen. Oder auch, wie in anderen Ländern schon katastrophal gescheitert, einzuschätzen, wie wahrscheinlich es ist, dass wir kriminell werden. Der Satz „Ich hab ja nichts zu verbergen“ bringt uns da nicht weiter. Denn unsere Daten sind immer auch Daten über andere Menschen, sie ermöglichen Vorhersagen über sie.
Gleichzeitig ist KI aber genauso rassistisch wie die Datensammlungen, mit denen sie arbeitet. Das bedeutet für Schwarze Menschen etwa ein erhöhtes Risiko, fälschlicherweise bei Gesichtserkennung als Straftäter*in „identifiziert“ zu werden. KI-Tools, die bei der Jobvergabe helfen sollen, haben sich als diskriminierend herausgestellt.
Johannes Drosdowski, taz.de, 29.12.2023 (online)
