The World Through AI: Aus einer Arbeiterin wird ein Arbeiter

Eine Frau steht an einer Druckmaschine in der Dondorf-Druckerei in Frankfurt. Ein echtes Archivfoto, eine historische Quelle. Die KI animiert das Standbild und macht aus der Frau einen Mann. Nicht aus Bosheit. Sondern weil an den Maschinen jener Zeit statistisch mehr Männer standen. Vielleicht „sauber“ von einer Künstlichen Intelligenz gerechnet, aber nicht nur historisch falsch: gefälscht.

Die Szene stammt aus Ania Szczepańskas Film „Reinscribing the Dondorf“, der gerade in der Schirn in Frankfurt gezeigt wird. Wir waren zu viert in The World Through AI, der großen Sommerausstellung der Schirn Kunsthalle Frankfurt, ein befreundetes Paar und meine Frau, die Kuratorin an der Schirn ist. Rund 40 Werke zu siebzehn Themenbereichen sind in zwei Hallen zu sehen — und das in der ehemaligen Dondorf Druckerei, dem Interimsstandort der Schirn in Bockenheim, also einem Ort, an dem Bilder und Texte industriell verarbeitet wurden, lange bevor jemand von KI, Large Language Models und Prompts sprach.

Ich schaue unter verschiedenen Blickwinkeln auf die Ausstellung: Als Historiker und Journalist bin ich es gewohnt, mit Quellen zu arbeiten und diese zu prüfen. Und gerade im Journalismus waren Fotos oft wichtige Nachweise, Beweismittel. Dies wird gerade massiv durch Künstliche Intelligenz unterlaufen. Die Systeme geben falsche Antworten, aufgrund der Muster, die sie kennen und halluzinieren „Fakten“ mit vollster Überzeugung hinzu. Bilder und Videos werden manipuliert und gefälscht. Ganze Sprachmodelle haben Vorurteile aufgrund der Daten, mit denen sie gefüttert wurden.

Bias und Halluzination sind zwei Namen für dasselbe Bauprinzip. Beides entsteht, weil das Modell das statistisch Wahrscheinliche ausgibt und nicht das Wahre. Die Modelle werden mit Daten aus unserem westlichen Kulturkreis gefüttert, also werden Personen aus anderen Kulturkreisen im Bild nicht erkannt. Frauen arbeiten nicht so häufig in einer Druckerei, also werden sie entfernt. Die Systeme haben Vorurteile aufgrund der Daten, mit denen sie trainiert wurden.

Als jemand, der täglich mit verschiedenen Large Language Models von ChatGPT bis Claude arbeitet, bin ich mir dieser Schwächen sehr bewusst. Trotzdem nutze ich die Modelle, weil sie mir bei der Arbeit helfen und ich nutze sie, um darüber zu schreiben und kompetent mitreden zu können. Die Titelbilder in meinem Blog erstelle ich mit KI, Texte und Konzepte werden im Dialog mit der KI entworfen oder von der KI korrekturgelesen. Ich lasse kurze Videos für TikTok oder Instagram erstellen und habe sogar meine erste App durch KI programmieren lassen.

Die Ausstellung widmet sich vielen der kritischen Themen rund um KI, vom Energieverbrauch über Halluzinationen und Bias bis zu KI-generierter Propaganda. Die Kuratoren Antonio Somaini und Katharina Dohm formulieren das so: Kunstwerke, die sich mit KI auseinandersetzen, eröffneten „einen einzigartigen Blickwinkel“ auf ein Feld, das für viele ein schwarzes Loch ist. Sie zeigt Kunstwerke, die sich mit neuralgischen Zonen von KI auseinandersetzen.

Der mechanische Kurde von heute

Hito Steyerls Videoinstallation „Mechanical Kurds“ zeigt beispielsweise kurdische Clickworker in Flüchtlingslagern im Nordirak. Die Clickworker zogen Begrenzungsrahmen um Objekte und verschlagworteten Bilder — trainierten also eine KI für Bilderkennung. Solche Bilderkennung nutzen unter anderem Drohnen. Und Drohnen schossen später im selben Gebiet auf Menschen.

Clickworker waren und sind noch immer bittere Realität. Für wenige Cent arbeiten sie im Akkord für die Plattformkonzerne. Das Kunstwerk des Kollektivs Meta Office zeigt die Arbeitsplätze von Amazon-Mechanical-Turk-Beschäftigten: Löhne, Standorte, provisorische Räume. Die Menschen selbst fehlen meist. Übrig bleiben generische Nutzer-IDs. Und es wird gezeigt, wie wenige Cent sie durch ihre Arbeit verdienen.

Sogenannte Zeitkapseln spannen in der Ausstellung immer wieder den Bogen zurück in die Vergangenheit. Der sogenannte Schachtürke von Wolfgang von Kempelen tourte ab 1770 achtzig Jahre durch die Welt und trat gegen Napoleon und Benjamin Franklin an. Sinnigerweise oder besser geschmackloserweise taufte Amazon seine Mikroarbeitsplattform MTurk, nachdem die eigene KI daran gescheitert war, doppelte Produktseiten im Shop zu finden.

Was uns eine Alexa kostet

Kate Crawford und Vladan Joler haben mit „Anatomy of an AI System“ (2018) auseinandergenommen, was hinter der Frage „Wie ist das Wetter heute?“ steckt. Sie illustrieren in einem beeindruckenden Diagramm, wie ein Amazon Echo entlang der drei Stränge Rohstoffe, menschliche Arbeit, Daten entsteht. Erklärt wird der Prozess in einem Essay in 21 Kapiteln, und dort stehen beeindruckende und gleichzeitig erschreckende Zahlen.

Für eine Tonne seltener Erden entstehen nach Angaben der Chinese Society of Rare Earths rund 75.000 Liter säurehaltiges Abwasser und eine Tonne radioaktiver Rückstand — 99,8 Prozent des abgebauten Materials wandern als Abraum zurück in Hügel und Flüsse. Laut Amnesty International verdienen die Kobaltarbeiter im Kongo etwa einen Dollar am Tag. Jeff Bezos nahm 2018 im Schnitt 275 Millionen Dollar täglich ein. Ein Kind in einer kongolesischen Mine müsste über 700.000 Jahre ohne Pause arbeiten, um auf einen einzigen Bezos-Tag zu kommen. Die Schirn zeigt in Vitrinen die seltenen Erden, die verarbeitet werden, neben einer in seine Einzelteile zerlegten Alexa. Schon dies beeindruckt.

KI ist kein Bruch, sondern eine Fortschreibung

Die Arbeiten von Kate Crawford und Vladan Joler sind gerade für mich als Historiker und jemand, der über 30 Jahre in der IT arbeitet, extrem beeindruckend. An den beiden wandfüllenden, einige Meter breiten Wandbildern Calculating Empires – A Genealogy of Technology and Power Since 1500 hätte ich Stunden verbringen können, unten die Linie 1500, oben die Linie 2025, dazwischen fünf Jahrhunderte entlang von vier Themen: Kommunikation, Berechnung, Klassifizierung, Kontrolle.

Die Senkrechte ist die Zeit, die Waagerechte reiht über dreißig Systeme aneinander — von Kommunikationsgeräten, Algorithmen und Hardware über Bildung, Emotionen, Biometrie, Gefängnis, Polizei und Grenzen bis zu Kolonialismus, Energie, Lithosphäre und Militärdoktrin.
Aus dieser Perspektive entpuppe sich KI „nicht als radikaler Umbruch, sondern als konsequente Fortschreibung viel älterer Geschichten von Kalkulation, Klassifizierungen und Herrschaft“ – so der Wandtext der Schirn.

Und ihr Startpunkt 1500 ist kein Zufallsdatum: Neben Handelsrouten und Navigationsinstrumenten steht dort die Erfindung des Buchdrucks, die nach ihrer Lesart die Informationsmacht neu ordnete. Man liest dieses Diagramm in einer ehemaligen Druckerei. Passender geht es nicht.

Beide Diagramme haben eine beeindruckende Geschichte. Anatomy of an AI System war in über hundert Ausstellungen zu sehen. Calculating Empires eröffnete im November 2023 in der Fondazione Prada in Mailand und wurde mit dem STARTS Prize Grand Prize for Artistic Exploration ausgezeichnet. Die Arbeiten kann man sich auch online auf den Webseiten von Crawford und Joler ansehen (siehe die Links).

KI ist kein Bruch, sondern eine Fortschreibung. Das wurde mir sehr deutlich in der Zeitkapsel zur Text- und Bildverarbeitung, die eine Linie von Gutenbergs beweglichen Lettern über Schreibmaschinen, ASCII, OCR, Telex und Lochstreifen bis zu den „Token“ zieht, mit denen heutige Sprachmodelle rechnen. Dieselbe Logik. In der Zeitkapsel liegen Hollerith-Karten aus den 1950er-Jahren neben einer IBM-Lochkarte von 1928. Ich habe einige Jahre meines Berufslebens in diesem Unternehmen verbracht und stand nun in einer ehemaligen Frankfurter Druckerei vor der Ahnenreihe des Tokenizers.

Halluzination ist keine Panne, sondern Bauprinzip

Das Glossar der Ausstellung formuliert es präziser als viele Fachartikel: Weil diese Systeme erzeugen, was statistisch plausibel ist, und nicht, was wahr ist, seien Halluzinationen „keine Ausrutscher, sondern strukturelle Eigenschaften“. Die Antworten und Fälschungen der Large Language Models werden von vielen als wahr eingeordnet — dabei sagen sie nur wahrscheinliche Muster voraus.

Ania Szczepańska führt das an ihrem eigenen Material vor. Ihr Film erzählt die Geschichte der jüdischen Gründerfamilie Dondorf und folgt zwei Schwestern: Clara, die den Holocaust überlebte, und Helene, die 1941 mit ihrem Sohn Richard nach Łódź deportiert wurde und dort starb. Die Arbeiterin am Band wird zum Arbeiter – weil es statistisch wahrscheinlicher ist. Was dabei geschieht, nennt Szczepańska im Schirn-Interview eine „sanfte Manipulation“: Die generierten Bilder ersetzen die Archivbilder durch eine kaum wahrnehmbare Verschiebung. Nicht die grobe Fälschung, die auffliegt, ist die Gefahr. Die feine, die niemand bemerkt. Die Ausstellung variiert dieses Prinzip an vielen Stellen.

Von der Volksstimme zum Trump-Gaza-Video

Der Ausstellungsort argumentiert mit. Bernhard Dondorf gründete die Druckerei 1833, sie wurde international bekannt für Spielkarten, Postkarten, Wertpapiere und Banknoten. 1928 verkaufte die Familie an die Union-Druckerei, die die sozialdemokratische „Volksstimme“ herausgab. Nach 1933 druckten dieselben, nun beschlagnahmten Maschinen das nationalsozialistische „Frankfurter Volksblatt“. Zwölf Jahre lang. Eine Bildverarbeitungsmaschine wechselt den Besitzer und produziert Propaganda.

Die Gegenwartsversion steht in Halle 2. Slopaganda unterscheidet sich von alter Propaganda in Größenordnung, Geschwindigkeit und Personalisierung: billig in Massen herstellbar, per Microtargeting auf Einzelne zugeschnitten. Und sie zielt nicht auf sachliche Irreführung, sondern auf emotionale Assoziationen, die durch bloße Wiederholung haften bleiben. Daniel Felstead und Jenn Leung führen mit „Welcome to Jankspace, Babes“ durch eine Netzkultur, die vor synthetischem Müll überläuft. Occitane Lacurie und Barnabé Sauvage sezieren in „Holy Slop! A Generative Atlas of Slopaganda in Palestine“ das KI-Video „Trump Gaza“, Trumps Vision vom Ferien- und Badeparadies Gaza.

Eine andere KI ist möglich

Ein Raum trägt den Titel „Eine andere KI ist möglich“, und der Wandtext dazu ist das Programmatischste der ganzen Ausstellung: Datensätze könnten offen aufgebaut werden, mit Einverständnis und geteilter Verwaltung, Modelle öffentlich trainiert werden — „als Rituale der Versammlung statt als Akte der Aneignung“. Doch sind wir von dieser anderen KI sehr weit entfernt.

Ich nutze KI weiter. Täglich, gern, mit Neugier. Aber ich will wissen, wer die Rechnung bezahlt, wessen Bilder verschoben werden und wer am Ende die Modelle besitzt. Die Schirn liefert darauf keine Antworten. Sie liefert die Fragen, die im Marketing der Anbieter nicht vorkommen. Das ist zwölf Euro Eintritt wert.

Wer hin will, muss sich beeilen

Die Zeit läuft ab. Halle 2 im Nebengebäude schließt am 6. September 2026 — dort hängen Slopaganda, dekoloniale KI, Fontcubertas erfundene Pflanzen und Szczepańskas Dondorf-Film. Bleiben rund zwei Wochen. Halle 1 im Hauptgebäude läuft bis zum 20. September 2026, also gut vier Wochen. Wer beides sehen will, und das sollte man, hat nur das kürzere Fenster.

Die Schirn zeigt „The World Through AI“ am Interimsstandort Gabriel-Riesser-Weg 3 in Frankfurt-Bockenheim, nicht am Römerberg. Geöffnet dienstags bis sonntags von 10 bis 19 Uhr, donnerstags bis 22 Uhr. Eintritt 12 Euro, ermäßigt 10 Euro. Drei Stunden sollte man mitbringen. Wir hatten neunzig Minuten und haben vielleicht ein Drittel bewusst gesehen.

Für die Recherche und für den Entwurf dieses Artikels wurde KI eingesetzt.

Quellen & Leseempfehlungen

• The World Through AI — Schirn Kunsthalle Frankfurt
• Rundgang durch die Ausstellung (Detailseite)
• Jetzt in der SCHIRN: The World Through AI — Überblick im SCHIRN MAG
• 5 Gründe, The World Through AI zu sehen — SCHIRN MAG
• Symposium „AI Politics: Slop and Slopaganda“
• 3 Fragen an Hito Steyerl — SCHIRN MAG
• 3 Fragen an Ania Szczepańska — SCHIRN MAG
• Eugenia Stamboliev: Werk ohne Autor, Kunst ohne Mensch — SCHIRN MAG
• Kate Crawford & Vladan Joler: Anatomy of an AI System — Diagramm und Essay in 21 Kapiteln
• Kate Crawford & Vladan Joler: Calculating Empires — interaktive Fassung mit Audiotour
• Katharina Cichosch: Besprechung der Ausstellung — Monopol
• Lisa Berins: Die Zukunft, statistisch gesehen — Frankfurter Rundschau