Zeit für eine neue Runde Kuratiert.: ein paar Fundstücke aus der Welt der Digitalisierung, die mir in den letzten Tagen besonders aufgefallen sind. Dieses Mal kreisen viele davon um zwei ziemlich alte Themen der digitalen Gesellschaft: Überwachung und Macht. Es geht um Gesichtserkennung im Iran und die Verfolgung der Protestierenden, um Moderation und Kontrolle bei ChatGPT, um Metas Pläne für KI-Feeds und Datenbrillen – und um die Frage, wie die großen Plattformen ihre Macht aufgebaut haben und wie viel Einfluss sie inzwischen auf Kommunikation, Aufmerksamkeit und Verhalten haben. Kurz gesagt: ein kleiner Rundgang durch die Infrastruktur der digitalen Gegenwart.
- Von „1984“ zur Gesichtserkennung im Alltag im Iran
- ChatGPT liest Chats mit – und gibt Daten im Zweifel weiter
- Zuckerberg, die ach so smarten Brille und für mich erstellte KI-Inhalte
- ZDF Doku: Von sozialen Netzwerken zur Aufmerksamkeitsmaschine und allmächtigen KI
- Die entscheidende Frage: Wer steuert die digitale Macht?
Von „1984“ zur Gesichtserkennung im Alltag im Iran
Nach vielen Jahren habe ich mir vor Kurzem wieder George Orwells „1984“ angehört – als Hörbuch. Diese Welt, in der der „Televisor“ jeden Raum überwacht, in der der Staat jede Bewegung registriert und „Big Brother“ im Grunde überall ist, ist schwere Kost: Was für eine beklemmende, überzeichnete Vision von totaler Kontrolle. Eine literarische Warnung aus dem Jahr 1949. Und dann lief im ZDF ein Beitrag von „ZDF frontal“ über den Iran. Die entsprechenden Recherchen wurde mit einer Reihe weiterer Redaktionen durchgeführt.
Die Recherche zeigt, wie das Regime Gesichtserkennungssoftware nutzt, um Protestierende zu identifizieren. Kameras scannen Menschen in U-Bahn-Stationen, Algorithmen gleichen Gesichter mit staatlichen Datenbanken ab, Verhaftungen folgen oft erst später – gezielt und ohne Öffentlichkeit. Der Unterschied zu Orwell? Es braucht heute keinen Televisor mehr im Wohnzimmer. Ein paar Kameras im öffentlichen Raum und ausreichend Rechenleistung reichen offenbar schon. Big Brother ist digital geworden – und erstaunlich effizient.
Geht Widerstand der Iraner angesichts der Überwachung überhaupt?
Der Überwachungsstaat arbeitet leise und effizient. Vor diesem Hintergrund wirken politische1
Kommentare aus dem Westen fast schon zynisch. Wenn etwa Donald Trump fordert, die Menschen müssten sich eben gegen solche Regime erheben – wie genau soll das funktionieren, wenn der Staat dein Gesicht kennt, bevor du überhaupt den ersten Protestschritt machst? Orwell hätte vermutlich gesagt: Big Brother sieht alles. Heute erledigt das ein Algorithmus. Hier geht es zum Beitrag. Unbedingt das Video ansehen und den Beitrag lesen.
ChatGPT liest Chats mit – und gibt Daten im Zweifel weiter
Apropos Überwachung und Kontrolle: ChatGPT ist für viele längst mehr als ein Alltagswerkzeug. Alle möglichen Themen werden abgefragt, denn die KI fasst ja alles so konsumierbar zusammen. ABER: OpenAI scannt Chats automatisch nach problematischen Themen, lässt auffällige Gespräche von Moderatorinnen und Moderatoren prüfen und kann sie im Zweifel sogar an die Polizei weitergeben. Anlass für die neuen Sicherheitsmaßnahmen ist der Suizid eines Teenagers in Kalifornien. Auf Netzpolitik.org und bei Jörg Schieb findet ihr mehr zum Thema.
Zuckerberg, die ach so smarten Brille und für mich erstellte KI-Inhalte
Apropos Gesichtserkennung: Mark Zuckerberg ist von Kamerabrillen mit integrierter Gesichtserkennung begeistert. Was bei Meta als futuristisches Feature daherkommt, wirkt bei näherem Hinsehen wie der nächste Schritt zur beiläufigen Totalerfassung des öffentlichen Raums. Fabian Peters beschreibt bei „Basic Thinking“, warum diese Vision weniger nach technologischem Fortschritt als nach einem massentauglichen Identifikationssystem wirkt.
Wenn jede Brille potenziell weiß, wer dir gerade gegenübersteht, verschiebt sich die Grenze zwischen öffentlichem Raum und privater Information drastisch. Die Technik mag beeindrucken, doch die gesellschaftliche Frage dahinter ist deutlich unangenehmer: Wollen wir wirklich in einer Welt leben, in der ein kurzer Blick genügt, um aus einer Person einen Datensatz zu machen? Und wen „berauschen“ und wer „missbraucht“ solche Technologien? Es ist ein Drahtseilakt.
Wenn Algorithmen Inhalte gleich selbst produzieren
Doch Zuckerberg hat nicht nur „Brillenvisionen“: Er hat gerade die nächste Evolutionsstufe von Social Media erklärt: KI-Feeds. Erst Text, dann Fotos, dann Video – Inhalte, die Maschinen gleich selbst generieren. In Metas Apps sollen künftig KI-Systeme auftauchen, die Nutzer „verstehen“, ihnen personalisierte Inhalte bieten und sogar kleine Spiele oder virtuelle Welten aus einfachen Prompts erstellen. Social Media als Dauer-Remix aus algorithmischer Kreativität. Social Media wird zur Bühne, auf der die KI Regie führt. Der Eintritt künftig wohl mit Abo.
Und all diese KI-generierten Inhalte werden dann über die oben erwähnten, ach so smarten Brillen direkt vor der Nase ausgespielt. Die smarten Brillen sind die logische Hardwareplattform für seine KI-Vision, weil sie digitale Informationen und KI-Assistenten direkt ins Sichtfeld und damit in den Alltag der Nutzer bringen – ohne dass man ständig zum Smartphone greifen muss. Meta bleibt sich treu: visionär im Geschäftsmodell, blind für Verantwortung.
ZDF Doku: Von sozialen Netzwerken zur Aufmerksamkeitsmaschine und allmächtigen KI
Als kleine Geschichte des Netzes und von Social Media unbedingt anschauen: die zweiteilige ZDFinfo-Serie „Die gefährlichsten Firmen der Welt – Big Tech“. Die Doku erzählt die Geschichte der großen Plattformen als das, was sie heute sind – globale Machtmaschinen, gebaut aus Daten, Algorithmen und ziemlich viel Psychologie. Google, Facebook, Amazon und Apple haben ein Geschäftsmodell perfektioniert, das auf etwas basiert, das wir freiwillig liefern: unser Verhalten. Klicks, Likes, Suchanfragen – alles wird gesammelt, analysiert und monetarisiert. Daten sind der Rohstoff der digitalen Wirtschaft geworden. Während wir durch unsere Feeds scrollen, optimieren Algorithmen längst, wie lange wir bleiben, worauf wir klicken und was wir als Nächstes sehen.
Die Serie zeigt dabei auch, mit welchen Tricks diese Systeme funktionieren. Stichwort „Dark Patterns“: kleine Designkniffe, entwickelt mit Hilfe der Verhaltenspsychologie, die Nutzer möglichst lange auf Plattformen halten oder subtil zu Entscheidungen lenken. Gleichzeitig beschreibt die Doku die enorme Macht der Plattformmonopole. Google, Amazon, Apple und Meta kontrollieren heute zentrale digitale Infrastrukturen – mit einem Einfluss auf Märkte, Kommunikation und Datenströme, der früher vielleicht nur großen Handelsgesellschaften vorbehalten war.
Damals, als soziale Netzwerke noch sozial waren. Vorbei
Und dann ist da noch die Geschichte der sozialen Netzwerke selbst. Eine kleine Zeitreise in jene Phase des Internets, in der viele – auch ich – glaubten, Social Media seien vor allem eines: sozial. Die Doku zeigt sehr schön, wie wir damals ganz naiv Farmville spielten und wie sich die ganze Sache weiterentwickelt hat. Heute wissen wir, dass Aufmerksamkeit die eigentliche Währung ist und Algorithmen bestimmen, was sichtbar wird.
Nach dieser Doku bleibt ein ungutes Gefühl: Wenn ein paar Tech-Konzerne das Verhalten von Milliarden Menschen analysieren und beeinflussen können – wer kontrolliert eigentlich noch wen? Und was tun wir dagegen, wir als Zivilgesellschaft und unsere Politikerinnen und Politiker? Die Uhr tickt.
Die entscheidende Frage: Wer steuert die digitale Macht?
Man könnte all diese Geschichten als einzelne Digitalthemen betrachten: Überwachung im Iran, KI-Feeds bei Meta, smarte Brillen, Datenmonopole im Silicon Valley. Aber in der Summe ergibt sich ein anderes Bild. Technologie wird immer stärker zum Instrument, um Verhalten zu messen, vorherzusagen – und auch zu steuern. Die Frage ist nicht mehr, was technisch möglich ist, sondern wer darüber entscheidet, wie und wofür es eingesetzt wird. Staaten, Konzerne, Algorithmen? Oder doch noch wir als Gesellschaft und Demokratie? Bisher gelingt uns das noch sehr unzureichend.
Kommentar verfassen