Jahrelang war der Begriff „Fake News“ untrennbar mit der Ära von Donald Trump verbunden. Doch nun stehen wir vor einer neuen Phase, in der nicht nur Texte, sondern auch Stimmen, Sprachaufnahmen, Fotos und ganze Videos manipuliert werden. Mit dem Aufstieg der Generativen Künstlichen Intelligenz betreten wir eine neue Ära von Fake News und Deep Fakes, die unsere Informationslandschaft nachhaltig verändern wird. Vor allem ist es oft eine Herausforderung, Fälschungen von Fotos, Videos und Stimmen auch als solche zu erkennen. Die Ausführungen des BSI seien hier ausdrücklich empfohlen.
Die Terrorattacke auf Israel und die Flut von Falschinformationen
Der jüngste terroristische Angriff auf Israel hat uns einen schmerzhaften Einblick in die Möglichkeiten von Falschinformation gegeben. Hunderte gefälschter Bilder und Videos wurden beispielsweise über das soziale Netzwerk X, ehemals Twitter, verbreitet. Diese Bilderflut verdeutlicht, welchen Herausforderungen wir uns nun stellen müssen – sei es bei kriminellen Betrugsversuchen mit gefälschter Stimme oder bei solch drastischen Ereignissen wie Kriegen und kommenden Wahlen.
Ein Beispiel für die Verbreitung von Fake News ist Elon Musks X-Netzwerk. Das Netzwerk wird überschwemmt von Propaganda- und Fake-Accounts, die Musk teils selbst bewirbt. Die Liste an fehlerhaften Darstellungen und Hate Speech ist lang. Twitter-Nutzer berichten von einem angeblich bevorstehenden israelischen Atombombenangriff auf Gaza, posten Szenen aus einem Videospiel, die angeblich eine Hamas-Attacke auf Israel zeigen, sowie Bilder eines Feuerwerks in Algerien, die als israelische Gegenschläge auf die Hamas dargestellt werden. Auch Posts, die Fußballstar Ronaldo mit einer palästinensischen Flagge zeigen oder Hamas-Raketenangriffe auf Israel darstellen, sind falsch.
Die Reaktion von X-CEO Linda Yaccarino auf den Warnbrief des EU-Kommissars Thierry Breton zeigt, dass Maßnahmen gegen die Verbreitung von Falschinformationen dringend notwendig sind. Durch die Entfernung von Hunderten von mit der Hamas verbundenen Konten und die Kennzeichnung von Zehntausenden von Inhalten signalisiert X einen ersten Schritt in die richtige Richtung. Diese Maßnahmen sind entscheidend, um die Glaubwürdigkeit der Plattform zu wahren und die Verbreitung von Desinformation einzudämmen.
Schon vor dem Überfall haben die Online-Interaktionen für russische, chinesische und iranische Desinformationsquellen auf X drastisch zugenommen. Im Vergleich zu anderen großen Plattformen wie Meta, Microsoft, Google und Tiktok, die konkrete Maßnahmen gegen Propaganda, Hate Speech und Fake News ergreifen, bleibt X zurück, reduziert gar sein Moderationsteam gegen Falschinformationen. Mit fast 9 Prozent der Accounts, die Falschinformationen verbreiten, hat die Plattform einen besorgniserregend hohen Anteil.
Doch schauen wir besser nicht nur auf X und Elon Musk. Die Bedrohung ist an anderer Stelle vielleicht noch größer. Die Bedrohung besonders durch manipulierte Bilder und Videos, ist auf TikTok und Instagram zweifellos erheblich. Diese beiden Plattformen haben eine enorme Reichweite bei jüngeren Zielgruppen, was sie zu einem potenziellen Nährboden für die Verbreitung von Falschinformationen macht. Jüngere Nutzer neigen dazu, visuelle Inhalte leichter zu konsumieren und es ist schwierig, authentische von gefälschten Inhalten zu unterscheiden, vor allem wenn sie massiv auf die Nutzerinnen und Nutzer einströmen, die eh deutlich mehr Zeit im Netz verbringen.
Tiktok und Instagram haben sicher auch bei den letzten Landtagswahlen in Deutschland eine wichtige Rolle gespielt. Insbesondere die AfD hat auf diesen Plattformen eine starke Präsenz aufgebaut und gerade diese Netzwerke mit kurzen Videos und einfachen Parolen geflutet. Junge Menschen sind wohl auf Plattformen wie Tiktok oder Instagram besonders anfällig für Fakenews und Deep Fakes Zwar gibt es keine eindeutigen Beweise dafür, dass die Verwendung von sozialen Medien direkt zu einem Anstieg der AfD-Stimmen bei den Wahlen geführt hat, jedoch liegt die Vermutung durchaus nah. In Bayern belegte die AfD bei den 18- bis 24-jährigen Wählern den dritten Platz, während sie in Hessen sogar mit 18 Prozent auf dem zweiten Platz landete.
Doch nicht nur die AfD produziert Fake News und nutzt soziale Medien. Russland ist dort besonders aktiv, prangert auch EU-Kommisarin Věra Jourová an: „Der russische Staat treibt einen Krieg der Ideen voran, um unseren Informationsraum mit Halbwahrheiten und Propaganda zu verschmutzen.“ Ziel ist es, die westlichen Staaten zu destabilisieren.
EU geht gegen Verbreitung illegaler Inhalte vor – X und TikTok im Visier
Mit dem Inkrafttreten des Digital Services Act (DSA, wir haben bei #9vor9 darüber gesprochen) im August hat die EU reagiert und will entschieden gegen die Verbreitung illegaler und schädlicher Inhalte auf Online-Plattformen vorgehen. Erst einmal nur die großen Betreiber wie Amazon, Facebook, Google (einschließlich YouTube), Instagram, TikTok und X (ehemals Twitter) sind nun verpflichtet, gemeldete Inhalte wie Hass und Hetze zeitnah zu löschen oder ihre Verbreitung einzuschränken.
Kurz nachdem die EU die Betaversion einer Beschwerde-Plattform online gestellt hat, wurden binnen weniger Tage fast 70 Millionen Einträge in das Verzeichnis aufgenommen. Die Datenbank fülle sich quasi im Sekundentakt. Eine Entwicklung, die zeigt, wie dringend die Einführung dieser Maßnahmen zur Eindämmung von problematischen Inhalten war. Nun muß allerdings auch gehandelt werden. Und die EU scheint das zu tun und geht jetzt gegen die Konzerne vor.
EU-Kommissar Thierry Breton warnt Elon Musk, die Plattform X werde zwangsweise abgeschaltet, sollte er die wachsende Zahl von illegalen Inhalten nicht wirksam eindämmen. Bis Mittwoch, 18. Oktober 2023 muss Musk reagieren. Am 12. Oktober setzt er dem Tiktok-Chef Shou Zi Chew ebenfalls eine Frist von 24 Stunden. Tiktok habe eine besondere Verantwortung gegenüber Kindern und Jugendlichen, sich vor gewaltsamen Inhalten und Terrorpropaganda wie auch lebensgefährdenden Inhalten zu schützen.
Selbst Alexa verbreitet Fake News
Doch richten wir den Blick auch auf die alltäglichen Bedrohungen, durch gemeine Kriminelle oder Amazons Alexa. Amazons Alexa hat laut der Washington Post die Lüge von den gestohlenen US-Präsidenten 2020 wiedergegeben, ohne auch nur darauf hinzuweisen, dass es keine Beweise dafür gibt.
Kriminelle nutzen die neuen Möglichkeiten für Betrügereien wie den Enkeltrick mit durch KI-gefälschter Stimme. Ich habe hier berichtet. Es wird zunehmend schwieriger, „echte Menschen“ von computergesteuerten Chatbots zu unterscheiden. Computer-gesteuerte Chatbots, die äußerlich und stimmlich an bekannte Influencer erinnern, können durchaus junge Menschen ansprechen, die mit ihrem Idol „reden“ will. Richard Gutjahr nennt das Synthetic Social Networks, in denen man vermehrt mit künstlichen Persönlichkeiten interagiert, anstatt mit echten Menschen zu sprechen.
Die persönliche Herausforderung: Kritisch überprüfen und mitdenken
Was tun? In einer Zeit, in der Kriminelle, Schurkenstaaten, rechte Spinner und sonstige Extremisten die neuen Technologien nutzen, müssen wir alle lernen, misstrauisch zu sein. Wir müssen Nachrichten, Bilder, Videos und Stimmen in Frage stellen, prüfen und Fake News melden. Diese Fähigkeit wird zu einer Kernkompetenz für jeden von uns. Künstliche Intelligenz, Hate Speech, Deepfakes und Fake News sind Themen, die uns alle angehen. Umfassend Aus- und Weiterbildung für jung und alt sind gefragt.
Daneben bleibt zu hoffen, dass die von der EU verabschiedeten Regularien wie der Digital Services Act konsequent in den Mitgliedsstaaten umgesetzt werden. Hier dürfen die Massnahmen nicht wieder an Kompentenzgerangel zwischen Behörden, Bund und Land scheitern. Das können wir uns in dieser Frage einfach nicht mehr leisten.
Und wir müssen Strategien entwickeln, wie wir dem rechten Schmutz, den platten Sprüchen und vermeintlich einfachen Wahrheiten, Antisemitismus und Fremdenhass auf den sozialen Plattformen begegnen. Wir können und dürfen Tiktok, Instagram und Co nicht der AfD überlassen. So herausfordernd es ist: Es gilt dem allgemeinen Vertrauensverlust entgegen zu wirken und die Halbwahrheiten und scheinbar einfache Lösungen zu entlarven. Schwierig, wenn beispielsweise die Herren Merz, Aiwanger oder Söder unterdessen auch mit Trump’schen Methoden agieren und es dem Pöbel gleich tun.
Die dringende Notwendigkeit unabhängiger Medien und Plattformen
Wir befinden uns an einem Scheidepunkt, an dem wir entscheiden müssen, ob wir uns passiv dem hingeben, was uns vorgehalten wird, oder ob wir uns aufklären und bilden und gegen halten. Angesichts dieser neuen Herausforderungen brauchen wir zudem mehr denn je freie, unabhängige Medien und soziale Plattformen, die aufklären und informieren. Sie sind von entscheidender Bedeutung, um eine informierte und aufgeklärte Gesellschaft zu fördern. Die Ära der Deep Fakes, von Hate Speech und Fake News erfordert eine aktive Auseinandersetzung mit der Informationsflut, die uns täglich erreicht.
Nicht wieder wie damals in der Weimarer Republik
Ich bin als Historiker vorsichtig bei Vergleichen. Jedoch erinnert die Situation heute mehr und mehr an die Weimarer Republik und Aufstieg der Nazis mit allen schrecklichen Konsequenzen. Auch Goebbels hat die modernsten Methoden der Massenmanipulation und -kommunikation benutzt und viele sind den Parolen blind hinterher gelaufen. Die Demokraten waren blass und zerstritten und dachten, dass man den braunen Schmutz unter Kontrolle habe und eindämmen könne. Ein Illusion, wie wir heute wissen. Lasst uns nicht wieder in eine solche Falle tappen.
Titelbild erstellt mit Dall-E mit den Anweisungen, junge Menschen am Smartphone, Deep Fakes und Fake News zu zeigen. Zum Erstellen dieses Beitrags wurden verschiedene KI-Systeme in der Recherche und zum Erstellen von Textvorschlägen benutzt.
StefanPfeiffer.Blog 
Kommentar verfassen