A minimalist graphically designed image with a hand holding a smartphone. The smartphone screen displays multiple social media posts. As the posts are being shared, the content transforms into fake news, fake videos, represented by changing headlines and distorted images, TikTok-symbols. The background contains the German flag.

Die Lage ist ernst: Hate Speech, KI-Fakes und Bots im Bundestagswahlkampf | #9vor9

Die Bundestagswahl am 23. Februar 2025 ist nicht mehr weit entfernt, und nicht nur viele Politikerinnen und Politiker haben schon längere Zeit in den Wahlkampfmodus umgeschaltet. Auch an „den sozialen Medien“ tobt bereits der Wahlkampf, oft leider in einer Weise, die für die durch die Algorithmen der Aufmerksamkeitsökonomie typisch ist. Angesichts der ernsten Situation haben sich Lars und ich entschieden, das Thema in der aktuellen Folge des Podcasts „9vor9“ zu diskutieren – auch wenn viele Aspekte davon nur schlechte Laune machen*. Aber wir reden drüber, und zumindest Lars‘ Puls wird ruhiger.

Das Thema soziale Medien und Wahlen ist wahrlich nicht neu, hat aber sicher durch den Wahlkampf in den USA, die Wahl Trumps und die Ausfälle von Elon Murks neue Dimensionen erreicht. Doch bei aller Aufregung: Der Einfluss „der sozialen Medien“ wird oft überschätzt.

Traditionelle Medien verhelfen Hate Speech und Fake News zu Reichweite

Oft verstärken traditionelle Medien die Reichweite. Sie transportieren durch ihre Berichterstattung oft Themen, die ansonsten mehr oder weniger in einer geschlossenen Bubble abgefeiert würden, an ein breiteres Publikum, das ansonsten oft gar nichts oder nur wenig mitbekommen hätte. Das kürzliche Gespräch zwischen Alice Weidel und Elon Musk ist das beste Beispiel. Den größten Effekt hat es eigentlich dadurch erzeugt, dass es über die normalen Medien weiterverbreitet wurde.

Eine Studie der Otto Brenner Stiftung vom November 2024 untermauert diese These. Sie zeigt, dass die AfD zwar Social Media und TikTok intensiv nutzt, der Unterschied zu anderen Parteien aber hauptsächlich darin liegt, dass diese schlecht auf den Plattformen agieren. Die Studie betont: Die Netzwerke der AfD mobilisieren fast ausschließlich nach innen – für eine breite Wirkung benötigen sie die Interaktion mit reichweitenstarken Medien.

Neue Dimension von KI-gefälschten Videos und Bildern

Aber natürlich ist von uns allen Aufmerksamkeit gefordert, denn oft durch KI generierte Fake News und Fake Videos werden gerade jetzt verteilt. Besonders alarmierend ist die zunehmende Verbreitung von KI-generierten Fake-Videos. Es gibt erschreckende Beispiele. Auf Instagram wurde ein mit KI gefälschtes Video einer angeblichen Gruppenvergewaltigung in Frankfurt geteilt, das bereits 11.000 Likes und über 4.000 Kommentare erhielt, viele davon mit rassistischer Hetze und AfD-Wahlaufrufen.

Es sei zu erwarten, dass fremdenfeindliche Hetze und Desinformation auf Social Media mit der heißen Phase des Bundestagswahlkampfes noch zunehmen werde, so Eva Berendsen von der Bildungsstätte Anne Frank in der FR. Die AfD und andere rechtsextreme Akteure würden „die eher laxen Regularien von Instagram & Co. strategisch nutzen versuchen.“ Das ist Zuckerbergs neue Ära der Meinungsfreiheit.

Die Verbreitung von Fake News durch Bots hat sich zu einem lukrativen und hochprofessionellen Geschäft entwickelt. Private „Dienstleister“ kontrollieren riesige Bot-Netzwerke und verlangen Millionenbeträge für Desinformationskampagnen. Doch vor allem Russland ist einer der maßgeblichen Produzenten. So wurde kürzlich ein russisches Bot-Netzwerk aufgedeckt, das mit Hilfe von KI über 1.000 gefälschte amerikanische Social-Media-Profile erstellt hatte. Die Dimension ist erschreckend: Studien zeigen, dass je nach Thema zwischen 25 und 68 Prozent aller Inhalte auf Twitter von Bots produziert werden. Besonders aktiv sind die Bot-Armeen natürlich zu politisch brisanten Zeitpunkten und bei kontroversen Themen.

Plattformen weigern sich zu moderieren und zu löschen

Die Plattformen selbst zeigen sich zunehmend unwillig oder unfähig, gegen Desinformation vorzugehen. Mark Zuckerberg und seine Ankündigungen sind das beste Beispiel. Doch einige Konzerne haben Glück, unter dem Radarschirm zu fliegen, so auch die YouTube-Tochter Google. YouTube beispielsweise setzt mittlerweile hauptsächlich auf Community Notes statt auf Content-Moderation. EU-Gesetzgebung? Da sch…en wir drauf. Danke, Thomas Gigold für den Hinweis.

Wie schon des Öfteren von uns formuliert, muss die EU durchgreifen und die bestehenden Regularien durchsetzen. Doch seien wir realistisch: Vor und bis zur Bundestagswahl sind keine schnellen Lösungen zu erwarten, auch wenn Bundesinnenministerin Faeser für den 22. Januar ein Treffen mit Managern relevanter sozialer Plattformen ankündigte, noch vor der Bundestagswahl.

Also, was tun? Wir empfehlen einen ausgewogenen Umgang mit sozialen Medien in Zeiten zunehmender Desinformation. Statt sich komplett zurückzuziehen, raten wir zu kritischem Engagement und aktiver Teilnahme an der Diskussion. Wenn einem irgendetwas strange erscheint, sollte man erst selbst einen Faktencheck machen und Aussagen infrage stellen. Dies ist zentral im Umgang mit verdächtigen Inhalten.

Erst mal durchatmen – und dann faktenbasiert retournieren

Besonders wichtig ist es, bei emotionalisierenden Inhalten Abstand zu wahren und nicht wegen hohem Puls reflexartig vorschnell zu teilen oder zu kommentieren. Wir warnen vor der Gefahr, durch unreflektierte Weiterverbreitung selbst zur Verstärkung von Desinformation beizutragen. Natürlich dürfen wir dem Hass in sozialen Medien nicht kampflos das Feld überlassen. Genau deshalb ist eine bewusste Auseinandersetzung mit problematischen Inhalten notwendig. Diese muss aber stets überlegt und faktenbasiert erfolgen. Und ja, wir dürfen auch scharf antworten, durchaus emotional, aber nur auf der Basis von Fakten und Respekt vor denjenigen, die eine offene, faire, respektvolle und harte Diskussion wollen.

Welchen Einfluss haben Social Media auf die Bundestagswahl? #9vor9 – Die Digitalthemen der Woche

Seit den Landtagswahlen in Thüringen, Sachsen und Brandenburg und der Wahl Donald Trumps wird die Frage, welchen Einfluss Social Media auf die Wahlentscheidungen haben, heiß diskutiert. Studien und andere Untrsuchungen zeigen: Sehr wichtig ist auch, wie und wo über das Thema Social Media in Zusammenhang mit politischer Meinungsbildung und Meinungsverstärkung geredet und berichtet wird. Dazu gehört etwa, nicht nur Themen und Aussagen wiederzugeben und damit sichtbarer zu machen, sondern ein wirklich kritischer Umgang. – Die AFD nutzt Social Media ganz toll und hochprofessionell. Ist das wirklich so? – Parteien brauchen die traditionellen Medien gar nicht mehr, um ihre Botschaften zu verbreiten. Stimmt das? Gibt es "die Social Media" überhaupt? Vielmehr geht ja doch darum, wer diese Social Media nutzt und wie sie von den Menschen, Organisationen und Unternehmen genutzt werden. Medien greifen auf, was Rechte, Verschwörungsverbreiter und andere so von sich geben, und verbreiten dadurch Meldungen, die sonst eventuell viel weniger Reichweite, Sichtbarkeit und damit Aufmerksamkeit bekommen hätten. Und was können und sollten wir tun? Wir reden drüber diese Woche bei 9vor9.

* Sorry, Sandra, aber versprochen: Wir reden auch wieder über nette, flauschige Themen. Am Ende haben wir sogar eine Idee. Nachdem unser Kater Toni heute Dauergast bei war, sprechen wir demnächst über Hunde und Katzen, über Lars mit Hund im Wald und Stefan mit Katzen auf dem Sofa. Das zaubert sicher ein leichtes Lächeln in unsere Gesichter und wir gehen entspannt in den weiteren Tag.

Fediverse Reactions

by

Tags:

Comments

Eine Antwort zu „Die Lage ist ernst: Hate Speech, KI-Fakes und Bots im Bundestagswahlkampf | #9vor9”.

  1. Am Tag unserer Aufnahme ging es nachmittags auf derzeit ge-hype-ten Netzwerk Bluesky zur Sache. Hunderte Accounts posten über mehrere Stunden Propaganda gegen die Ukraine. Experten vermuten eine russische „Doppelgänger“-Kampagne dahinter. Mit so etwas werden wir auch in Deutschland rechnen müssen.
    https://www.rnd.de/politik/desinformation-russische-einflusskampagne-auf-social-media-plattform-bluesky-NUIYMZINSZC4NBKPB3QNVSXXJQ.html

    Like

Kommentar verfassen

Diese Seite verwendet Akismet, um Spam zu reduzieren. Erfahre, wie deine Kommentardaten verarbeitet werden..

Regelmäßig informiert bleiben?
StefanPfeiffer.Blog

Jetzt abonnieren, um informiert zu bleiben und alle Beiträge im Zugriff zu haben.

Fortfahren