KI-Kennzeichnungspflicht und ihre Lücken

Seit dem 2. August gilt die KI-Kennzeichnungspflicht der EU – und schon jetzt zeigt sich, wie viele Lücken sie lässt. Während Unternehmen brav Texte oder Bilder kennzeichnen, pumpt die AfD mit einem eigens gebauten Kampagnentool nicht gekennzeichnete Empörung und Lügen durchs Netz, und fluten Fake-News-Kampagnen von Ceuta bis TimeToDivideGermany die sozialen Netzwerke. Eine Auseinandersetzung mit dem Thema.

KI-Kennzeichnungspflicht: Wie ein gutes Gesetz an der Realität scheitert

Seit dem 2. August verpflichtet Artikel 50 der KI-Verordnung Unternehmen und berufliche Nutzer dazu, Deepfakes und KI-Texte zu kennzeichnen, sofern sie die Öffentlichkeit über Themen von allgemeinem Interesse informieren. Der Rechtsanwalt Carsten Ulbricht hat kurz vor Inkrafttreten säuberlich erklärt, wann genau die Pflicht greift: nur bei echter Täuschungseignung, nicht bei bloßer Nachbearbeitung – und, das ist der entscheidende Satz im Kleingedruckten, gar nicht erst bei Texten, die ein Mensch redaktionell verantwortet. Klingt vernünftig. Ist es auch, wenn man nur das Gesetz liest.

Wer es an der Praxis misst, landet schnell bei Christian Buggisch, der aufzeigt, wen die Regel eigentlich trifft: Konzerne, die sich meist ohnehin an Regeln halten, weil sie Millionenstrafen fürchten. Doch: Ein KI-generiertes Produktfoto muss gekennzeichnet werden, dieselbe Täuschung mit Photoshop und Food-Styling nicht. Und die eigentlichen Böswilligen – Trollfabriken, Verschwörungsnetzwerke, Parteien, die ihre Basis mit Empörung füttern wollen – halten sich an gar nichts. Genau diese Ausnahme für redaktionell geprüfte Texte nutzen längst auch Redenschreiber und Ghostwriter in Politik und Wirtschaft, die selten offenlegen, wie viel KI tatsächlich mitgeschrieben hat – dazu mehr in diesem eigenen Beitrag.

Genau das belegt die Recherche von Markus Beckedahl und Michael Kolain zum AfD-Kampagnentool „Alternita Studio“: Dessen Modul „Geistschreiber“ durchforstet im Viertelstundentakt einschlägige Rechtsaußen-Portale, vergibt einen Score, der in Wahrheit ein Empörungswert ist, und lässt durch KI automatisiert polarisierende und emotionalisierende Bilder mit kurzen Texten erzeugen – mit einem winzigen, kaum lesbaren KI-Hinweis in der Ecke. Als politische Werbung gekennzeichnet wird davon nichts.

Wie zynisch die Grauzone ist, in der sich das Tool bewegt, zeigt ein Experiment der Rechercheure selbst: Sie baten den Coding-Assistenten Claude Code, das Werkzeug per Vibe-Coding nachzubauen, und bekamen eine Absage, weil es sich um eine Maschine für koordinierte politische Content-Produktion handele. Das fertige Tool selbst hat diese Hürde nie durchlaufen müssen – es hängt sich einfach direkt an die kostenpflichtigen APIs von OpenAI, Google und Anthropic. Und das verhindern die ach so korrekten KI-Konzerne dann nicht. Die AfD darf weiter Hass und Hetze produzieren. Skurril.

Dass Kennzeichnung allein ohnehin nicht reicht, bestätigt der Forscher Raphael Fischer im Gespräch mit netzpolitik.org: Ein Label sage nichts darüber, ob ein Inhalt stimmt. Es gibt ein offizielles EU-Symbol für KI-Inhalte, aber niemand ist gezwungen, es tatsächlich zu verwenden, und es droht ein Flickenteppich, der Täuschung sogar erleichtert. Das Gesetz, räumt der AI Act implizit selbst ein, wirkt nur gegen Akteure, die Strafen fürchten – nicht gegen Desinformationskampagnen. Wie real und teilweise gefährlich diese Lücke ist, zeigte sich noch in der Woche des Inkrafttretens selbst: Ein gefälschtes Video, das Bundeskanzler Merz einen Rücktritt andichtet, kursierte munter weiter. Da wurde nichts gekennzeichnet oder gar gelöscht.

Fakes überall: Wie KI-Lügen Grenzen und Demokratie überrennen

Während in Brüssel über Icons diskutiert wird, zeigt der Sommer 2026 in Echtzeit, wozu ungebremste Desinformation fähig ist. Ende Juli sprangen rund 60.000 Menschen bei der marokkanischen Stadt Fnideq ins Meer, um zur spanischen Exklave Ceuta zu schwimmen – befeuert durch TikTok- und WhatsApp-Videos, die ein Gerichtsurteil zu Asylverfahren verdrehten und behaupteten, der Weg in die EU stehe offen. Mindestens 83 Menschen starben.

Der Digital Services Act hält für solche Fälle einen Krisenmechanismus bereit, der aber, wie Michael Hanfeld in der FAZ vorrechnet, Monate bis Jahre braucht. So kann die EU-Kommissarin die Plattformkonzerne bestenfalls höflich um Mithilfe bitten. Für den 15. August ist laut lokalen Medien bereits der nächste Ansturm angekündigt.

Fast zeitgleich kursierten unter dem Titel „TimeToDivideGermany“ KI-Videos mit erfundenen Auftritten amerikanischer und britischer Schauspieler, die zur Teilung Deutschlands aufrufen – versehen mit dem gefälschten Wasserzeichen der FAZ, die darüber selbst berichtete. Und in Rheinland-Pfalz sorgte ein vergleichsweise harmloser Fall für Wirbel: Julia Klöckner postete ein ordnungsgemäß gekennzeichnetes KI-Bild zum Schulanfang. Der Illustrator Oliver Schäfer kommentierte scharf: Der Post sei „ein Schlag ins Gesicht jedes Kreativschaffenden“, Klöckner solle echte Fotos machen oder einen Grafikdesigner beauftragen. Sein Kommentar wurde gelöscht, er selbst wurde von Klöckners Account blockiert.

Der Fall zeigt: Selbst korrekt gekennzeichnete KI-Inhalte lösen Konflikte aus, wenn Kreative um ihre Existenz fürchten. Kennzeichnung schafft hier keine Ruhe, sie eröffnet nur die nächste Debatte – während die eigentlich gefährlichen, unmarkierten Fälschungen ungestört weiterlaufen.

Für die Recherche und für den Entwurf dieses Artikel wurde KI eingesetzt.