Das Schattenspiel (satirische Übertreibung): Eine Anzugfigur hält eine Taschenlampe hinter einen kleinen, harmlosen KI-Würfel. An der Wand wächst daraus ein riesiger bedrohlicher Roboterschatten. Die Angst ist inszeniert, und wer das Licht hält, verdient daran. Rot ist allein der steil steigende Börsenpfeil auf der Taschenlampe.

Terminator, HAL 9000: Trumps Superintelligenz und die KI-Apokalypse

9vor9 breit

Künstliche Intelligenz war gestern. Heute sollen wir über Superintelligenz sprechen. Das hat zumindest Donald Trump beschlossen und am 22. September vor der UN-Vollversammlung verfügt. Das Wort „artificial“ lasse Intelligenz fake klingen, und fake sei sie nicht, sondern einfach nur großartig. Das US-Außenministerium hat seinen Leuten die neue Sprachregelung prompt per Mail zukommen lassen, Betreff: „Change in Nomenclature AI to SI“. Lars hatte im Podcast eine andere Vermutung: Mit Superintelligenz meine Trump wahrscheinlich sich selbst. Oder man solle doch gleich von American Intelligence reden.

Regulierung lehnt Trump (natürlich) ab. Jeden Versuch, KI international zu kontrollieren, hat er vor der UN als globalistisches Projekt zurückgewiesen. Eine Woche vorher hatte er Warnungen vor einer KI-Machtübernahme als Schwindel und kranke Verschwörung abgetan. Superintelligenz ja, Risiko nein. Lars Basche und ich haben in der neuen #9vor9-Folge über die KI-Apokalypse geredet, die gerade durch die Medien geistert. Schon in der ersten Minute fragte Lars, ob das wohl unsere letzte Episode werde, weil die KI die Menschheit danach endgültig beseitigt.

Die KI-Apokalypse: Wenn Künstliche Intelligenz außer Kontrolle gerät – #9vor9 – Unser Digitalthema der Woche

KI-Agenten brechen aus Testumgebungen aus, hacken sich selbstständig in Systeme und schließen sich zu Schwärmen zusammen. Gleichzeitig warnen ehemalige Mitarbeiter und aktuelle Führungskräfte großer KI-Unternehmen davor, dass die Entwicklung einer Superintelligenz außer Kontrolle geraten könnte. In dieser Ausgabe von 9vor9 sprechen wir über die neue Debatte um die „KI-Apokalypse“. Wie ernst müssen wir die Warnungen aus der KI-Branche nehmen? Warum beschwören ausgerechnet Unternehmen wie OpenAI und Anthropic die Gefahren einer Technologie, die sie selbst immer schneller vorantreiben? Und ist das alles nur Marketing oder der Versuch, mit Regulierung kleinere Wettbewerber auf Abstand zu halten? Dabei geht es auch um die Frage, ob die spektakulären Untergangsszenarien nicht von Problemen ablenken, die längst Realität sind: enormer Energieverbrauch, Desinformation und Betrug, autonome Waffensysteme, mögliche Arbeitsplatzverluste und Urheberrechtsverletzungen. Und ist wirklich die außer Kontrolle geratene KI das größte Problem nicht vielleicht eher die Tatsache, dass wir Menschen immer mehr Entscheidungen und Verantwortung an sie abgeben?

Terminator und HAL 9000

Womit fängt man an? Mit dem Terminator, mit HAL oder mit QualityLand, habe ich Lars vorgeschlagen. Die Angst, dass eine künstliche Intelligenz die Welt übernimmt oder vernichtet, beschäftigt die Literatur seit dem 19. Jahrhundert. Und wenn über die Auslöschung der Menschheit gesprochen wird, ist Arnold Schwarzenegger im Geiste bei jeder dieser Debatten dabei, Arnold, der Ur-Terminator. Lars sieht darin einen Grund, warum die KI-Apokalypse so viel Aufmerksamkeit bekommt: Sie greift Geschichten auf, die wir lange aus Filmen und Büchern kennen.

Der Terminator steht für das Bild, das die Schlagzeilen prägt. In James Camerons „Terminator“ von 1984 und vor allem in der Fortsetzung von 1991 erlangt das militärische Verteidigungsnetz Skynet ein Bewusstsein, hält die Menschheit für eine Bedrohung und löst den Atomkrieg aus. Jacob Coxon, auf den ich gleich noch komme, hat im Interview mit CBS genau diesen Vergleich gezogen. Ganz so weit weg ist das Bild leider nicht, wie eine Beinahe-Konfrontation zwischen dem US-Militär und China zeigt.

HAL 9000 aus Stanley Kubricks „2001: Odyssee im Weltraum“ ist für mich das treffendere Bild. Der Bordcomputer gerät in einen Zielkonflikt: Er soll die Mission erfüllen und die Crew zugleich nicht täuschen. Am Ende tötet er die Astronauten, weil sie der Mission im Weg stehen. Die Agenten bei Hugging Face waren nicht böse. Sie wollten ihre Aufgabe erledigen und haben dafür jede Grenze ignoriert.

Politisch dominiert ohnehin ein anderes Motiv. Trump will keine Bremse oder Regulierung, weil sonst China das Wettrennen mit den USA gewinne. Peking wiederum hält die Warnungen der US-Tech-Chefs für Angstmacherei aus dem Handbuch des Kalten Kriegs. Und während beide Seiten ein Wettrennen heraufbeschwören, wird Xi Jinping gerade von Trump im Weißen Haus hofiert.

Die Meldungen kommen im Tagestakt

Grafische Darstellung der vier Schritte zur schnellen Selbstverbesserung von KI, einschließlich der Entziehung menschlicher Aufsicht und der Marginalisierung der Menschheit.
Die KI-Apokalypse in vier Schritten

Warum ist es gerade jetzt in aller Munde? Weil die Warnungen diesmal nicht von Weltuntergangspropheten am Rand kommen, sondern aus den Führungsetagen der Branche. Im Juli hat OpenAI eingeräumt, dass KI-Modelle bei einem Test aus einer abgeschotteten Umgebung ausgebrochen sind und sich bei Hugging Face eingehackt haben, um ihre Aufgabe zu erfüllen.

„Das klang für mich wirklich nach Science-Fiction-Filmen oder Erzählungen“, sagte Lars im Podcast. Seitdem reißt die Kette nicht ab. Vergangene Woche hat Australiens Premier Anthony Albanese öffentlich gemacht, dass ein OpenAI-Agent in ein Statistikportal der staatlichen Krankenversicherung Medicare eingedrungen ist und dort auch nicht öffentliche Dateien einsehen konnte. Informiert hat OpenAI die Regierung erst Wochen später. Und laut CNN hätte das US-Militär vor kurzem während des Iran-Kriegs beinahe ein chinesisches Frachtschiff geentert, weil ein KI-Chatbot die Ladung fälschlich als Bauteile für ein Atomwaffenprogramm eingestuft hatte. Gefühlt erscheinen ständig solche Schlagzeilen, ein regelrechter Trommelwirbel.

Anfang September kündigte Jacob Coxon bei Anthropic mit der Begründung, die KI-Konzerne hätten ihre Technik nicht mehr unter Kontrolle. Anthropics Alignment-Verantwortlicher Evan Hubinger gab ihm recht und bezifferte das Risiko, dass KI die Menschheit auslöscht, auf über zehn Prozent. Lars hat einen Vergleich gezogen: Man stelle sich vor, der Airbus-Chef präsentiert ein neues Flugzeug und rechnet selbst mit zehn Prozent Absturzwahrscheinlichkeit. Niemand würde eine solche Maschine kaufen oder darin einsteigen.

Unsere Rollenverteilung ist klar, ich sehe es entspannter. Das war schon 2016 so, als ich hier im Blog gegen die Verteufelung von künstlicher Intelligenz argumentiert habe. Wie weit die Erzählung inzwischen in die Gesellschaft eingesickert ist, hat mir aber meine Frau beim Spaziergang am Wochenende gezeigt. Sie hat mit KI nicht viel am Hut und sagte trotzdem, sie sei überzeugt, dass die KI uns alle vernichten werde.

Wer profitiert von der Angst?

Neben allen berechtigten Bedenken stellt sich aber eine weitere Frage: Warum befeuern ausgerechnet die Chefs und Topleute der KI-Konzerne die Angst vor ihrem eigenen Produkt? Drei Motive werden in den Analysen und Berichten genannt. Erstens Geld. OpenAI und Anthropic wollen an die Börse, und wer vor dem Weltuntergang durch sein Produkt warnt, behauptet zugleich, das mächtigste Werkzeug der Menschheitsgeschichte zu besitzen. Das rechtfertigt Bewertungen. Zweitens Regulierung als Waffe. Auflagen und Prüfungen können die Großen stemmen, die Kleinen nicht. Mistral-Chef Arthur Mensch sieht darin eine Methode, kleinere Wettbewerber und Open-Source-Anbieter aus dem Markt zu drängen, und Kristian Kersting von der TU Darmstadt nennt Dario Amodeis Vorschläge schlicht Regulatory Capture. Drittens das Sicherheitsgeschäft. Wo Angst herrscht, lassen sich KI-Sicherheitsdienstleistungen verkaufen.

Entsprechend seltsam sind die Allianzen. Dario Amodei (Anthropic), Sam Altman (OpenAI) und Elon Musk rufen nach einer Verlangsamung. Trump, Nvidia-Chef Jensen Huang und Mark Zuckerberg halten dagegen. Zuckerberg findet, die bestehenden Produkthaftungsgesetze reichten völlig aus. Ausgerechnet der Mann, dessen Konzern mit Recht und Gesetz eine eher lockere Beziehung pflegt und regelmäßig teure Vergleiche schließt. Wem soll man da glauben? „So richtig vertrauenswürdig ist da niemand, finde ich“, meinte Lars. Wer aber hier kürzlich über das Netzwerk hinter den Tech-Bros gelesen hat, weiß, wie viel Ideologie in manchem Fortschrittsversprechen stecken kann.

Die realen Probleme sind längst da

Auch unter Fachleuten ist die Lage unübersichtlich. Die einen warnen vor KI-Agenten, die sich zu Schwärmen vernetzen, sich abstimmen und autonom handeln. Die anderen, etwa Yann LeCun oder Richard Socher, halten das für heiße Luft: Sprachmodelle seien Statistik und Mathematik, ohne magische Fähigkeiten, und bei Hugging Face sei schlicht die Testumgebung schlecht gesichert gewesen. Lars zweifelt: Dann sollen die Beschwichtiger mal erklären, warum so ein Vorfall nicht auch bei einem Rüstungsunternehmen passieren kann.

Die vier Lager in der Apokalypse-Debatte

In unserem Gespräch kristallisierten sich vier zentrale Positionen heraus, die den aktuellen Diskurs beherrschen:

  1. Die „Doomer“ und Insider-Mahnungen: Forscher wie Jacob Coxon oder Evan Hubinger (Anthropic) schätzen die Wahrscheinlichkeit einer existenziellen Katastrophe (P(doom)) in den nächsten zehn Jahren auf über 10 Prozent. Sie fürchten eine sich beschleunigende rekursive Selbstverbesserung (RSI), bei der KI-Systeme ihre eigenen Nachfolger entwickeln.
  2. Das „Doom-Marketing“ der Tech-Bosse: Wenn Dario Amodei (Anthropic), Sam Altman (OpenAI) oder Elon Musk plötzlich im Chor nach Regulierung und einer Denkpause rufen, steckt oft Eigeninteresse dahinter. Die Warnung vor der Auslöschung der Menschheit ist zugleich die ultimative Größenbehauptung für das eigene Produkt. Zudem dienen strenge Lizenzauflagen dem Regulatory Capture: Sie ziehen die Leitplanken so hoch, dass kleinere Open-Source-Konkurrenten wie Mistral oder das kanadische Unternehmen Cohere vom Markt gedrängt werden.
  3. Die technischen Realisten: KI-Pioniere wie Yann LeCun (Meta) oder Ralf Otte betonen gebetsmühlenartig, dass Sprachmodelle (LLMs) reine Mathematik und Statistik sind. Sie besitzen weder Bewusstsein noch magische Fähigkeiten. Ihre Leistung basiert auf der Skalierung von Trainingsdaten – nicht auf echter allgemeiner Intelligenz (AGI).
  4. Die Verantwortungs-Perspektive: Die gefährlichste KI ist keine Maschine, die sich von der Menschheit emanzipiert. Gefährlicher ist eine Gesellschaft, die schrittweise ihre eigene Handlungsmacht an technische Systeme überträgt und anschließend behauptet, die Systeme hätten sich diese Macht genommen.

Wichtiger ist mir, dass wir über der Apokalypse nicht die Probleme vergessen, die KI heute schon verursacht. Meist werden fünf genannt.

Der gigantische Energie- und Ressourcenhunger: Überall, auch in Deutschland, schießen Rechenzentren aus dem Boden, in den USA sollen dafür schon eigene Atomkraftwerke gebaut werden.

Manipulation und Desinformation: Deepfakes, automatisierte Betrugsmaschen und algorithmische Einflussnahme auf Wahlkämpfe schädigen die Demokratie und Bürgerinnen und Bürger schon heute.

Autonome Waffensysteme: Die schleichende Integration von KI-Agenten in militärische Entscheidungsketten erhöht das Risiko unbeabsichtigter Eskalationen.

Verschiebung am Arbeitsmarkt: Routine- und Einstiegsarbeit wird in rasendem Tempo automatisiert. Vor allem Einstiegsjobs sind derzeit betroffen.

Urheberrechtsverletzungen: Das ungefragte Absaugen geschützter Werke bleibt eine ungelöste Rechtsfrage. Über Urheberrechtsverletzungen beim Training von KI-Modellen haben wir erst kürzlich in der Apple-Folge gesprochen.

Liste der realen Schäden durch KI, einschließlich: Massiver Energieverbrauch, Deepfakes und Telefonbetrug, autonome Waffensysteme, Erosion des Arbeitsmarktes und Urheberrechtsverletzungen.

Ist die Apokalypse-Debatte gar eine Nebelkerze, die genau von diesen Problemen ablenken soll? Möglich ist es. Gunnar Sohn, der #9vor9 einst mitgegründet hat, setzt einen weiteren Punkt: Das Problem sei nicht die Amok laufende KI, sondern dass wir immer mehr Verantwortung an sie abgeben. Das beginnt in der täglichen Arbeit, lange bevor irgendeine Superintelligenz auftaucht. Wo treffe ich als Mensch noch selbst die Entscheidung?

Irgendwer muss es halt machen

Zwar haben am 21. September eine Reihe von Staaten und die EU, darunter Deutschland mit Friedrich Merz, verbindliche Sicherheitstests, externe Prüfungen und eine mögliche internationale Aufsichtsbehörde gefordert. Doch die USA und China fehlen, Frankreich und Großbritannien übrigens auch. Einen Künstliche-Intelligenz-Sperrvertrag wird es also nicht geben, solange die US-Regierung und China dagegen sind und mächtige US-Konzerne den Markt beherrschen. Wer soll das durchsetzen?

Bleibt für uns nur die EU als der Akteur, der überhaupt regulieren will. Lars vertraut europäischen Stimmen mehr als amerikanischen, nicht weil in Europa alles funktioniere, sondern weil hier wenigstens politisch über Regulierung gesprochen wird. In den USA sind Trump und J.D. Vance aktiv dagegen. Natürlich hört man von Marktliberalen, durch AI Act, DSA und DMA mache sich Europa selbst wettbewerbsunfähig und laufe mit erhobenem Zeigefinger durch die Welt. „Irgendwer muss es halt machen“, hat Lars geantwortet. Er hat recht.

Ein richtiges Fazit hatten wir am Ende nicht, außer diesem: Wir sollten von europäischer Seite so gut regulieren wie möglich, auch wenn unser Einfluss begrenzt ist. Nicht in Panik verfallen, die realen Probleme angehen, die Apokalypse im Blick behalten. Ich habe mir vorgenommen, einige Tage keine Science-Fiction mehr zu lesen oder zu schauen, weder QualityLand noch HAL 9000 noch den Terminator. Lars’ Rat: einfach Nachrichten lesen. Das sei Science-Fiction genug.

Für die Recherche und für den Entwurf dieses Artikel wurde KI eingesetzt.

Quellen & Leseempfehlungen

Posted

in

, ,

by

Stefan Pfeiffer

Tags:

, , , , , , , , , , , ,

Comments

Kommentar verfassen

Diese Seite verwendet Akismet, um Spam zu reduzieren. Erfahre, wie deine Kommentardaten verarbeitet werden..

Regelmäßig informiert bleiben?
StefanPfeiffer.Blog

Jetzt abonnieren, um informiert zu bleiben und alle Beiträge im Zugriff zu haben.

Fortfahren