ATLAS DER KI von Kate Crawford
Dank einem Hexenschuss, der mich flachlegt, habe ich endlich Zeit, das Buch «Atlas der KI» fertig zu lesen. Es ist das Beste, was ich bisher über Künstliche Intelligenz gelesen habe. Es ist ein must für einfach alle. Ich erinnere mich an die Zeiten, in denen ich mich intensiv mit Michel Foucaults Mikrophysik der Macht beschäftigt habe. Zu lange ist es leider her.
Die australische KI-Forscherin Kate Crawford gibt auf fast 300 Seiten einen tiefen und absolut erhellenden Einblick in die Bedingungen und Verstrickungen der KI. Sie zeigt auf, welche gesellschaftlichen, politischen und ökologischen Auswirkungen die künstliche Intelligenz hat, und dass die wahren Kosten (Umweltschäden, Krankheiten, Tod, Ungleichheiten etc.) nicht in Rechnung gestellt werden. KI-Systeme entstehen in einem Umfeld von ungleichen Machtverhältnissen und sind zu tiefst in der Ausbeutung menschlicher Körper verankert – angefangen von der Extraktion seltener Erden, Mineralien und Lithium in vorwiegend armen Ländern, hin zu den global verstreuten Crowdworker:innen, die an einer Art dezentralisierter Werkbank eine Reihe von Mikroaufgaben übernehmen (z.B. Labeln von Daten und Überprüfen algorithmischer Prozesse) bis hin zu den Endverbraucher:innen (wir alle), die für das Funktionieren der Systeme gänzlich unbezahlte Aufgaben übernehmen, indem wir unser Leben über Social Media Plattormen teilen, von wo alles – auch scheinbar unbedeutende Details – extrahiert und verwertet wird. (An einem durchschnittlichen Tag im Jahr 2019 wurden rund 350 Millionen Fotos auf Facebook hochgeladen und 500 Millionen Tweets erfasst).
Menschen erfüllen jene gefährlichen, stupiden und schlecht bezahlten Aufgaben, welche die These der «magischen Fähigkeiten künstlicher Intelligenz» radikal in Schranken weisen. KI vorzutäuschen («Fauxtomation») ist ein anstrengender Job (S. 74).
Euphemistische Begriffe (die ich selbst ganz selbstverständlich verwende) wie die Cloud oder die Datenwolke suggerieren, dass es sich bei all dem um etwas Schwebendes, um etwas Zartes, um etwas Ephemeres handelt. Die in unscheinbaren Rechenzentren untergebrachten Server sind denn auch weniger augenfällig als die Kamine von Kohlekraftwerken (S. 49). Die Tendenz zum technologischen Maximalismus hat aber tiefgreifende ökologische Auswirkungen.
Wie funktioniert die Klassifikation beim maschinellen Lernen? Was steht auf dem Spiel, wenn wir klassifizieren? Welche unausgesprochenen gesellschaftlichen und politischen Theorien liegen diesen Klassifizierungen der Welt zugrunde? Die Künstliche Intelligenz konfrontiert uns mit einem Regime des normativen Denkens. Trainingsdatensätze beruhen immer auf bereits veralteten Klassifikationen. Sie werfen komplexe Fragen in ethischer, methodologischer und epistemologischer Hinsicht auf (S. 131). Taxonomien sind immer politisch und zu tiefst ideologisch. KI ist daher keine technische, sondern eine politische Disziplin.
Crawford plädiert für eine neue Politik der Verweigerungen gegen das Narrativ der technologischen Zwangsläufigkeit. Wir sollten uns nicht fragen, wo wir KI einsetzen, sondern, warum wir sie einsetzen.
