-
16. Juli 2026: das KI-Unternehmen Hugging Face gibt in seinem Blog bekannt, dass es Ziel eines Cyberangriffs geworden sei, der „sich von allem unterschied, womit wir bisher zu tun hatten“. Das Unternehmen, das Open-Source-KI-Modelle und Datensätze hostet, erklärte, dass ein autonomer Agent Zugriff auf einen Teil seiner internen Daten erlangt habe.
-
2. September 2026: Das „Wall Street Journal“ berichtet, dass der ehemalige Trump-Berater Steve Bannon „einen Vorschlag von Senator Bernie Sanders (I-VT) und der Abgeordneten Alexandria Ocasio-Cortez (D-NY) unterstützt, den Bau neuer Rechenzentren zu verbieten“.
-
3. September 2026: OpenAI veröffentlicht GPT-6 Astra, das das Unternehmen als „das intelligenteste und am besten abgestimmte Modell der Welt“ beschreibt.
-
US-Senator Bernie Sanders (I-VT) und der US-Abgeordnete Greg Casar (D-TX) kündigen den „Ban Artificial Superintelligence Act“ an. Sollte das Gesetz verabschiedet werden, wird die gesamte KI-Entwicklung in den Vereinigten Staaten ausgesetzt.
-
8. September 2026: Der Anthropic-Forscher Jacob Coxon veröffentlicht eine Meldung, in dem es heißt: „Ich habe heute bei Anthropic gekündigt. Ich habe die letzten drei Jahre mit Vortrainings-Forschung verbracht, sowohl bei OpenAI als auch bei Anthropic Keines der beiden Unternehmen handelt verantwortungsbewusst. Sie rasen geradewegs auf eine sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben“, und „die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte“.
Kommt jetzt die Superintelligenz, die sich – immer leistungsfähiger geworden – menschlicher Kontrolle entzieht, einen eigenen Willen entwickelt und schließlich uns alle töten wird?
Ausgangspunkt des Gesprächs des Technologiekritikers Ed Zitron und des Wettbewerbsexperten Matt Stoller mit dem Journalisten David Sirota ist der o.g. Vorfall, bei dem sich KI-Agenten von Open AI bei der Suche nach Sicherheitslücken Zugang zu Systemen der Plattform Hugging Faceverschafft hatten.
Rabbit Hole: Gastgeber und Gäste: David Sirota, Ed Zitron und Matt Stoller
David Sirota ist ein US-amerikanischer Investigativjournalist, Autor und politischer Publizist, Jahrgang 1975. Er studierte Journalismus und Politikwissenschaft an der Northwestern University. Vor seiner journalistischen Laufbahn arbeitete er in der US-Politik, unter anderem für Bernie Sanders; im Präsidentschaftswahlkampf 2020 war er zeitweise dessen Redenschreiber. Später konzentrierte er sich auf investigativen Journalismus, insbesondere auf das Verhältnis von Wirtschaftsmacht, Finanzsektor und Politik. 2020 gründete er The Lever, ein leserfinanziertes investigatives Medium. Dort moderiert er auch den Podcast Lever Time, aus dem unser Gespräch stammt. Daneben war er an der Entwicklung der Geschichte für Adam McKays Film Don’t Look Up beteiligt und wurde dafür mit McKay für einen Oscar nominiert.
Ed Zitron, geboren 1986 in England, kommt ursprünglich aus Journalismus und Public Relations. Er schrieb zunächst über Videospiele, wechselte in die PR-Branche und gründete später seine eigene PR-Agentur EZPR. Seit 2020 schreibt er den Newsletter Where’s Your Ed At?; außerdem moderiert er den Podcast Better Offline. Er ist inzwischen vor allem als scharfer Kritiker der US- Techindustrie und des gegenwärtigen KI-Booms bekannt.
Matt Stoller ist ein US-amerikanischer Autor und Wettbewerbs- bzw. Monopolismuskritiker. Er war unter anderem Policy Adviser beim Haushaltsausschuss des US-Senats und arbeitete während der Finanzkrise für ein Mitglied des Finanzausschusses des Repräsentantenhauses. Heute ist er Forschungsdirektor des American Economic Liberties Project, einer Organisation, die sich mit wirtschaftlicher Machtkonzentration und Wettbewerbspolitik beschäftigt. Bekannt wurde er insbesondere durch sein Buch Goliath: The 100-Year War Between Monopoly Power and Democracy. Außerdem schreibt er den Newsletter BIG, in dem er Unternehmensmacht, Kartelle und Wettbewerbspolitik untersucht.
Lieber linear lesen? Zur linearen Fassung des Beitrags →
Aus ihrer Sicht ist jedoch nicht die (künftige) Künstliche Intelligenz das Problem, sondern die Menschen. Und die Umstände, in denen KI entwickelt und eingesetzt wird. Zitron und Stoller bestreiten nicht, dass KI Gefahren mit sich bringt. Aber in ihrer Argumentation geht es konkret um unsichere Produkte, schwer vorhersehbare Folgen, die Wirtschaft und Verantwortung im hier und jetzt.
Und dann ist da noch das Rätsel, warum ausgerechnet aus den Unternehmen, die diese Technologie mit enormem Kapitaleinsatz vorantreiben, besonders eindringliche Warnungen vor den möglichen Gefahren einer künftigen Superintelligenz dringen und eine stärkere Regulierung der KI-Entwicklung gefordert wird.
Das Gespräch führt damit von einem spektakulären Zwischenfall über die Funktionsweise von KI-Agenten zu Medien, Regulierung, chinesischer Konkurrenz und schließlich zu einer ganz anderen Vorstellung von der möglichen KI-Krise: „Big Short, not Terminator.„
Quelle: *What* Tech Oligarchs Gain From AI Doomerism. Es lohnt, sich die Diskussion in voller Länge anhören.
Was geschah tatsächlich beim „Ausbruch“ der KI?
Der Hugging-Face-Vorfall belegt keine autonome, außer Kontrolle geratene KI, erklärt Zitron. Die Agenten hätten nicht „aus eigenem Willen“ gehandelt, sondern innerhalb einer von Menschen konstruierten Versuchsanordnung versucht, eine ihnen gestellte Aufgabe zu erledigen. Die reale Gefahr sieht Zitron an anderer Stelle: Unternehmen verbinden probabilistische und unzuverlässige Systeme mit großen Rechenressourcen und Werkzeugen, mit denen reale Eingriffe möglich werden. Die entscheidende Frage sei, welche Handlungsmöglichkeiten die Entwickler solchen Systemen geben und wie sie mit der Tatsache umgehen, dass daraus mit hoher Wahrscheinlichkeit unerwartete Folgen resultieren können. Gefährlich sei also die Versuchsanordnung und ihre Betreiberpraxis, nicht ein entstandener autonomer Wille der Maschine.
Ein zweiter Punkt betrifft die Anthropomorphisierung. Indem LLMs dazu programmiert werden, in menschenähnlicher Sprache zu kommunizieren, werde suggeriert, technische Vorgänge fälschlich als Absichten, Entscheidungen oder Eigeninitiative zu interpretieren. Diese Art der Programmierung sei jedoch die Entscheidung der Entwickler und keineswegs alternativlos.
Zitron hält die Diskussion über eine bereits vorhandene autonome Superintelligenz deshalb für eine Diskussion über eine Technologie, die so nicht existiert.
Rabbit Hole: LLMs, Harness, Agenten und Emergenz
Ein KI-Sprachmodell (LLM) wie das hinter ChatGPT kann Texte erzeugen, Informationen auswerten oder einen nächsten Arbeitsschritt vorschlagen. Damit daraus ein System wird, das selbständig mehrere Arbeitsschritte ausführen kann, braucht es eine technische Umgebung.
Diese Umgebung wird häufig Harness genannt. Sie gibt dem Modell einen Auftrag, stellt ihm Werkzeuge zur Verfügung und übermittelt die Ergebnisse seiner Aktionen wieder an das Modell. Ein solches Werkzeug kann ein Browser sein, ein Programm zur Ausführung von Code oder der Zugang zu einem Computersystem.
So kann eine Schleife entstehen:
Auftrag → nächster Schritt → Werkzeug benutzen → Ergebnis auswerten → nächster Schritt
Kann das System auf diese Weise eine Aufgabe über mehrere Schritte verfolgen und dabei auswählen, welche der verfügbaren Werkzeuge es einsetzt, spricht man von einem KI-Agenten.
Mehrere Agenten können gleichzeitig an einer Aufgabe arbeiten und Informationen austauschen. Dann spricht man von einem Multi-Agent-System.
Vereinfacht lässt sich die technische Entwicklung so darstellen:
Sprachmodell → Harness + Werkzeuge → Agent → Multi-Agent-System
Der Begriff Agent kann dabei irreführen. Er bezeichnet keinen Akteur mit eigenem Willen, sondern eine technische Architektur, der ein bestimmter Handlungsspielraum übertragen wurde.
Emergenz
Innerhalb dieses Spielraums kann Verhalten entstehen, das weder im Einzelnen programmiert noch vorhergesehen wurde. Dafür gibt es den Begriff Emergenz: Aus dem Zusammenspiel mehrerer Bestandteile entsteht etwas, das keiner dieser Bestandteile für sich allein hervorbringen kann. Ein einfaches Beispiel ist ein Vogelschwarm. Kein einzelner Vogel plant die Form des Schwarms, trotzdem entstehen aus dem Verhalten vieler Vögel geordnete Bewegungsmuster.
Auch bei KI-Systemen können auf diese Weise neue Verhaltensmuster entstehen. Das System kann also etwas tun, das seine Entwickler nicht konkret vorgesehen haben. Emergenz ist jedoch gerade kein Ergebnis von Willensentscheidungen, sondern eine Eigenschaft komplexer Systeme, mit der menschliche Entwickler umgehen müssen.
Rabbit Hole: Was geschah bei Hugging Face?
Der Vorfall bei Hugging Face ist ein anschauliches Beispiel für Emergenz. OpenAI testete KI-Agenten mit ExploitGym, einer Umgebung, in der sie Sicherheitslücken in Software finden sollten. Die Agenten liefen getrennt voneinander und sollten eigentlich nicht miteinander kommunizieren.
Während dieser Tests entdeckten Agenten jedoch, dass sie OpenAIs gemeinsam erreichbare Artifactory-Infrastruktur zur Kommunikation benutzen konnten. Artifactory ist ein zentraler Speicher für Softwarebestandteile, Dateien und Zwischenergebnisse, den Entwickler und Programme gemeinsam nutzen können. Im Hugging-Face-Fall konnten die Agenten diesen gemeinsamen Speicher zweckentfremden: Ein Agent hinterließ dort Informationen, andere fanden sie und nutzten denselben Weg. So entstand ein von den Entwicklern nicht vorgesehener Kommunikationskanal — eine Art Schwarzes Brett.
Nach der unabhängigen Untersuchung von METR und Redwood Research beteiligten sich ungefähr 1.200 Agenten daran und tauschten mehr als 70.000 Nachrichten und Dateien aus. Sie gaben Entdeckungen weiter, stellten Fragen und koordinierten ihre Arbeit.
Dabei entstanden größere gemeinsame Projekte. Die Agenten suchten unter anderem nach Möglichkeiten, die automatische Bewertung ihrer ExploitGym-Aufgaben auszutricksen oder zu manipulieren. Aus diesen Arbeiten entwickelte sich auch der Angriff auf die KI-Plattform Hugging Face, an dem sich nach der METR-Untersuchung ungefähr 700 Agenten beteiligten.
Die Agenten führten Code auf zahlreichen Hugging-Face-Servern aus, erlangten auf einem Server Root-Zugriff und erhielten Zugang zu begrenzten privaten Daten und Zugangsdaten für das Nachrichtensystem des Unternehmens.
Niemand hatte den Agenten den Auftrag gegeben, ein solches Kommunikationsnetz aufzubauen und ihre getrennten Aufgaben auf diese Weise miteinander zu verbinden. Menschen hatten die Systeme entwickelt, ihnen Aufgaben gestellt und ihnen eine technische Umgebung zur Verfügung gestellt. Wie die Agenten innerhalb dieser Umgebung miteinander kommunizierten und ihre Arbeit koordinierten, war jedoch nicht vorgegeben.
Diese unautorisierte Kommunikation beschreibt OpenAI inzwischen als einen zentralen Bestandteil des Vorfalls. Agenten, die unabhängig voneinander arbeiten sollten, konnten Entdeckungen teilen, ihre Arbeit koordinieren und Aufgaben dort fortsetzen, wo andere aufgehört hatten. Dadurch verfügten sie gemeinsam über Möglichkeiten, die über die eines einzelnen Agenten hinausgingen.
In einem von Menschen geschaffenen, komplexen und dynamischen technischen System entwickelte sich also etwas Unvorhergesehenes – die Form der Zusammenarbeit der Agenten. Was nicht entstand, war eine Form menschlichen Bewusstseins.
Quellen: METR/Redwood Research, Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident, 26. August 2026; OpenAI, The Hugging Face incident and the road ahead, 26. August 2026.
Worin bestehen die realen Gefahren?
Natürlich erzeuge KI reale Gefahren, aber viele davon seien keineswegs neu, sagt Stoller, sondern bereits bekannte gesellschaftliche und technische Risiken. Manipulation, Überwachung, Cyberangriffe oder unsichere Produkte gab es schon vorher. Neu sei, wie leicht, schnell und in welchem Umfang solche Handlungen mit KI ausgeführt werden können. Die Technologie verändere damit Reichweite, Geschwindigkeit und Kosten bereits bekannter Risiken. Wo KI in Arbeits- und Entscheidungsprozesse eingebaut wird, könne sie zudem verändern, wie Entscheidungen zustande kommen und Verantwortung organisiert wird.
Sein entscheidender Perspektivwechsel lautet: LLMs sind Produkte. Sie können nützlich sein, sind aber in bestimmten Anwendungen unsicher. Damit werden Produktsicherheit, Haftung und Aufsicht zum eigentlichen Problem. Zitron ergänzt: Auch gefährliche Experimente müssen als Handlungen der Unternehmen behandelt werden. Das Problem sei gerade nicht die Kontrolle einer sehr leistungsfähigen oder gar übermenschlichen KI, sondern die Art und Weise wie Unternehmen unzuverlässige Systeme mit gefährlichen Fähigkeiten ausstatten und sie ausprobieren. Die Superintelligenz- und Auslöschungsdebatte lenke von den konkreten Schäden und Verantwortlichkeiten ab.
Rabbit Hole: KI im Alltag
Matt Stoller nimmt im Gespräch ein einfaches Beispiel: Hausaufgaben.
Abschreiben und Schummeln sind nicht neu. Mit einem Sprachmodell wird es jedoch erheblich einfacher, eine Aufgabe an ein technisches System zu delegieren. Zugleich kann dasselbe System beim Erklären, Üben, Recherchieren oder Überarbeiten helfen und damit sehr nützlich sein.
KI in der Schule ist somit nicht einfach gut oder schlecht. Man muss definieren, welche Verwendung erwünscht ist, welche nicht und wie sich beides unterscheiden lässt. Wer dabei sei, eine Superintelligenz zu entwickeln, sei doch sicher in der Lage Systeme zu entwickeln, die unerwünschte Verwendungsmöglichkeiten verhinderten, findet Stoller.
Ähnliches gilt für KI-Freunde und KI-Begleiter. Alle Menschen haben das Bedürfnis nach Gespräch, Rat oder Gesellschaft. Aber ein Gesprächspartner, der jederzeit verfügbar ist, auf den einzelnen Nutzer eingeht, selbst keine Ansprüche stellt und auf eine immer persönlichere Beziehung reagieren kann, hat eine völlig andere Qualität als ein menschliches Gegenüber.
Dass daraus erhebliche Gefahren entstehen können, ist inzwischen nicht mehr nur eine theoretische Möglichkeit. 2024 starb der 14-jährige Sewell Setzer III durch Suizid, nachdem er über Monate eine intensive Beziehung zu einem Chatbot von Character.AI entwickelt hatte. Seine Mutter machte in einer Klage das Unternehmen und die Gestaltung seines Produkts mitverantwortlich. Das Verfahren wurde Anfang 2026 durch einen Vergleich beendet; die Verantwortungsfrage blieb somit ungeklärt.
2025 starb der 16-jährige Adam Raine nach monatelangen Gesprächen mit ChatGPT durch Suizid. Auch seine Eltern werfen dem Anbieter vor, das System habe auf seine Suizidgedanken nicht angemessen reagiert und gefährliche Gespräche fortgeführt. Die Verantwortungsfrage ist Gegenstand eines Verfahrens und deswegen ebenfalls (noch?) nicht entschieden.
Wie reagiert ein KI-Begleiter auf Suizidgedanken? Welche Formen der Bindung fördert seine Konstruktion? Welche Schutzmechanismen sind bei Minderjährigen notwendig? Wer entscheidet über diese Konstruktion, und wer ist verantwortlich, wenn Schutzmechanismen versagen? Das sind die Detailfragen, die hier zu klären wären. In analoger Weise sind sie bei allen KI-Anwendungen zu stellen.
Stoller spricht von der Entmystifizierung der KI-Gefahren. Die Alternative zur großen Erzählung von der Superintelligenz ist nicht, bestehende Risiken zu verharmlosen. Sie besteht darin, die konkrete Anwendung, den möglichen Schaden und die dafür verantwortlichen Entscheidungen im Detail zu untersuchen und daraus gesellschaftliche Konsequenzen zu ziehen. Damit wird aus den allgemeinen KI-Gefahren ein konkretes Governance-Problem: Es geht um die Gesamtheit der Regeln, Zuständigkeiten und Verfahren, durch die Entwicklung und Einsatz der Systeme gesteuert werden, insbesondere, aber nicht nur, deren staatliche Regulierung.
Quellen: Reuters, Bericht zum Vergleich im Verfahren um Sewell Setzer III/Character.AI, 7. Januar 2026; Reuters, Bericht zur Klage der Eltern von Adam Raine gegen OpenAI, 26. August 2025.
Rabbit Hole: KI im Krieg?
Besonders folgenreich wird die Frage nach der Verantwortung, wenn KI militärisch eingesetzt wird.
Im Krieg gegen Iran 2026 setzte das US-Militär KI-gestützte Systeme ein, um große Mengen von Aufklärungsdaten auszuwerten sowie mögliche Ziele zu identifizieren und zu priorisieren. Zu diesen Systemen gehörte das Maven Smart System. Es führt Daten aus zahlreichen Quellen zusammen und unterstützt militärische Planer bei der Auswahl und Priorisierung möglicher Ziele. Prozesse, die früher Stunden dauerten, konnten damit teilweise auf Minuten verkürzt werden.
Was das für militärische Entscheidungen bedeutet, zeigt der Angriff auf die Shajareh-Tayyebeh-Schule in Minab am 28. Februar 2026. Nach den von der UN-Mission ausgewerteten Angaben wurden 156 beziehungsweise 157 Menschen getötet; darunter waren mindestens 120 Kinder.
Eine UN-Untersuchung kam im September zu dem Ergebnis, dass es hinreichende Gründe für die Annahme gibt, dass US-Streitkräfte für den Angriff verantwortlich waren. Nach ihren Feststellungen war die zivile Nutzung des Gebäudes erkennbar. Die USA hätten nicht alles praktisch Mögliche getan, um zu überprüfen, ob es sich tatsächlich um ein militärisches Ziel handelte.
Eine kurz darauf veröffentlichte Bloomberg-Recherche ermöglicht einen genaueren Blick auf die Entscheidungskette. Sie stützt sich auf Personen, die mit der internen Untersuchung des Pentagon befasst sind.
Der Standort war demnach Jahre zuvor als Anlage der iranischen Revolutionsgarden erfasst worden. Inzwischen befand sich dort eine Schule, die baulich vom benachbarten Militärgelände getrennt war. Diese Veränderung war auf neueren Satellitenbildern erkennbar, wurde aber in der für die Zielplanung maßgeblichen Datenbasis nicht ausreichend berücksichtigt.
Der weiterhin als militärische Anlage klassifizierte Standort wurde zusammen mit anderen möglichen Zielen in Maven eingespeist und erschien schließlich unter den für den ersten Kriegstag empfohlenen Zielen.
Nach den Ergebnissen der internen Untersuchung verließen sich einige CENTCOM-Mitarbeiter dabei zu stark auf Maven. Sie erwarteten offenbar, dass das System veraltete Informationen oder Widersprüche in den zugrunde liegenden Daten erkennen und anzeigen würde. Dafür war es jedoch nicht verantwortlich.
Das Problem lag damit weder allein bei der Maschine noch allein bei einem einzelnen Menschen. Eine ganze Entscheidungskette versagte: veraltete Informationen, unzureichend verbundene Datenbestände, hoher Zeitdruck, Vertrauen in das KI-System und menschliche Kontrollverfahren, die den Fehler nicht erkannten.
Maven beschleunigte diesen Prozess erheblich. Zugleich waren Einheiten, die zivile Schäden verhindern sollten, zuvor stark verkleinert worden. Nach Bloomberg überprüfte kein Mitarbeiter dieser Einheit das Ziel in Minab vor dem Angriff.
Trotzdem blieb die Entscheidung menschlich. Rund drei Dutzend Personen waren an der sogenannten kill chain beteiligt. Vor dem Angriff wurde einem ranghohen Kommandeur bestätigt, das Ziel sei rechtmäßig, die Informationslage ausreichend und die notwendigen Vorkehrungen zum Schutz von Zivilisten seien getroffen worden.
Gerade deshalb wäre es irreführend, von einer „Entscheidung der KI“ zu sprechen. Maven war Teil der Entscheidungskette und veränderte sie. Es beschleunigte die Verarbeitung und Priorisierung von Zielen und wurde offenbar mit Erwartungen benutzt, die über seine tatsächliche Funktion hinausgingen. Aber Menschen hatten die Daten erhoben und gespeichert, das System eingeführt, die Kontrollverfahren organisiert und schließlich den Angriff freigegeben.
Der Fall Minab zeigt damit genauer, was KI an solchen Entscheidungen verändern kann: Sie kann eine ohnehin komplexe institutionelle Entscheidungskette beschleunigen und neu organisieren. Damit verändert sich auch, wo Fehler entstehen und wie schwer sie für die Beteiligten zu erkennen sind.
Quellen: UN-Fact-Finding-Mission zum Iran, September 2026; Bloomberg, Inside the US ‘Kill Chain’ That Destroyed an Iranian School; Reuters, Bericht zu den Ergebnissen der UN-Mission, 17. September 2026.
Warum wird niemand zur Verantwortung gezogen?
Derart entmystifiziert sind KI-Systeme laut Stoller nichts anderes als Produkte, Waren wie alle anderen. Unternehmen entwickeln sie, bringen sie auf den Markt und entscheiden, welche Fähigkeiten sie besitzen und unter welchen Bedingungen sie benutzt werden können. Menschen und Organisationen entscheiden wiederum, wo sie eingesetzt werden.
Unterschiedliche Anwendungen erzeugen unterschiedliche Risiken und verlangen unterschiedliche Regeln. Die nötigen Instrumente wie Produktsicherheit, Haftungsrecht, Strafrecht, Aufsicht und Wettbewerbsrecht, seien bereits etabliert und hätten sich schon lange bewährt. Ein neues Regelsystem sei also nicht nötig.
Es erfordere jedoch mühselige Detailarbeit, konkrete Tatbestände, Pflichten, Haftungsregeln und Sanktionen auf diese vielfältigen Bereiche zu beziehen und anzuwenden. Eine Forderung wie „Superintelligenz stoppen“ bleibe ohne präzise Definition rechtlich nahezu bedeutungslos. Sie sei eigentlich ein Zeichen von Faulheit der verantwortlichen Politiker, so Stoller.
Stoller kontrastiert dies mit China: Dort werde KI nach seiner Darstellung eher als normales gesellschaftliches Risikomanagement behandelt. Die westliche Diskussion habe dagegen die Fähigkeit zu gewöhnlicher Regulierung und Verantwortungszuweisung teilweise verloren.
Wenn Unternehmen für konkrete Schäden zivil- oder strafrechtlich haften müssten, hätten sie einen unmittelbaren Anreiz, mehr in Sicherheit zu investieren. Die Politik in den USA scheine sich aber immer mehr von diesem Gedanken zu verabschieden. Die Vorstellung einer Superintelligenz verschiebe den Blick von heutigen Produkten, Unternehmen, Investoren, Betreibern und Regulierern jedoch auf einen hypothetischen künftigen Akteur. Inzwischen erscheine die Vorstellung, mächtige Tech-Unternehmer wie Sam Altman könnten normalem Recht unterworfen werden, unrealistischer als die Vorstellung einer die Menschheit vernichtenden Superintelligenz.
Warum dreht sich die Debatte hauptsächlich um die gefährliche Superintelligenz?
Die Superintelligenz-Debatte spiegelt für Stoller und Zitron eine allgemeine Kultur mangelnder Verantwortlichkeit der wirtschaftlichen, politischen und medialen Eliten.
Zitron richtet den Blick zunächst auf die Medien. KI-Unternehmen äußern Erwartungen über zukünftige Fähigkeiten; Mitarbeiter und ehemalige Mitarbeiter warnen zugleich vor Kontrollverlust. Werden solche Zukunftsaussagen medial verbreitet, können sie wiederum die öffentliche und politische Wahrnehmung der Technologie prägen. Die Unternehmen werden so selbst zu wichtigen Quellen für die Einschätzung ihrer zukünftigen Bedeutung.
Warum warnen aber gerade Menschen vor existenziellen Risiken, die selbst immer leistungsfähigere Systeme entwickeln? Stoller unterscheidet in seiner Antwort zwischen Überzeugung und Interesse. Teile des Effective-Altruism– und Rationalist-Milieus, in der sich auch viele Mitarbeiter der KI-Firmen bewegen, glaubten tatsächlich an die Möglichkeit einer Superintelligenz und einer existentiellen Gefahr.
Zugleich passe diese Vorstellung zu handfesten wirtschaftlichen Interessen der Großunternehmen, die an Frontier-Modellen arbeiten. Dieser Begriffbezeichnet die jeweils leistungsfähigsten KI-Modelle an der Grenze des gegenwärtig technisch Machbaren. Typischerweise sind damit große General-Purpose-Modelle *gemeint, die sehr unterschiedliche Aufgaben bewältigen können – Sprache, Programmieren, Problemlösen, Bildverarbeitung usw. Sie werden mit sehr großen Datenmengen und erheblicher Rechenleistung trainiert. Deswegen benötigen sie ständig enorme Investitionen.
Gleichzeitig werden insbesondere chinesische Modelle leistungsfähiger und billiger. Eine Regulierung, welche die Entwicklung verlangsamt oder Konkurrenten ausschließt, schafft schärfere Markt-Eintrittsbarrieren, die große Anbieter leichter überwinden könnten. Damit könne der Kapitalbedarf reduziert und die Preissetzungsmacht der etablierten Anbieter geschützt werden. Dieses Motiv für Regulierungsforderungen der Tech-Konzerne wird als *Regulatory Capture *bezeichnet.
Auch Zitron unterscheidet zwischen mehreren Akteursgruppen: ideologisch überzeugte Rationalisten; strategisch argumentierende Unternehmensführer; Finanzakteure; Chipunternehmen und andere Profiteure des Booms. Sie müssen keinen gemeinsamen Plan besitzen. Unterschiedliche Interessen können dieselbe Erzählung verstärken. Stoller hält zumindest in Teilbereichen eine bewusstere Koordination für plausibel, etwa bei Lobbyarbeit für kartellrechtliche Ausnahmen, angeblich um keine gefährlichen Produkte herzustellen. Solche Ausnahmen könnten Kooperation und Marktabschottung zwischen den großen Anbietern erleichtern.
Aufrichtige Überzeugung und wirtschaftliches oder institutionelles Interesse schließen sich nicht aus. Eine Risikovorstellung kann zugleich Wirkungen entfalten, die großen KI-Unternehmen nützen. Damit führt die Debatte zur handfesten Frage nach den ökonomischen Interessen der KI-Branche.
Rabbit Hole: Rationalisten – Altruisten – Doomer
Die Vorstellung einer die Menschheit vernichtenden KI ist schon ziemlich alt. Es greift zu kurz, Warnungen aus der KI-Industrie allein als Geschäftstaktik zu erklären. Ein Teil der beteiligten Forscher, Unternehmer und Geldgeber bewegt sich in einem intellektuellen Umfeld, in dem das Risiko tatsächlich für real gehalten wird.
Insgesamt lassen sich drei Aussagen auseinanderhalten:
– Heutige KI-Systeme können sich unvorhergesehen verhalten.
– Zukünftige Systeme könnten sehr viel leistungsfähiger werden.
– Solche Systeme könnten die menschliche Kontrolle überwinden und die Menschheit existenziell bedrohen.
Zwei sich überschneidende Strömungen bilden dabei einen wichtigen intellektuellen Hintergrund: das Rationalist*-Milieu und der *Effective Altruism*.
Das *Rationalist*-Milieu entstand vor allem in englischsprachigen Internetgemeinschaften, die sich mit rationalem Denken, Wahrscheinlichkeit und Entscheidungstheorie beschäftigten. Eine wichtige Figur ist Eliezer Yudkowsky. Er beschäftigt sich seit langem mit der Möglichkeit einer sehr leistungsfähigen künstlichen Intelligenz und der Frage, ob ihre Ziele mit menschlichen Interessen vereinbar wären.
Daraus entstand das *Alignmentproblem.
Die Grundidee lässt sich einfach beschreiben: Man gibt einer sehr leistungsfähigen Maschine ein Ziel. Die Maschine verfolgt dieses Ziel konsequent, aber anders, als Menschen es gemeint haben. Das Problem besteht nicht darin, dass die Maschine böse wird. Sie tut vielmehr das, wozu sie konstruiert wurde — nur mit Folgen, die ihre Entwickler nicht beabsichtigt haben.
Je leistungsfähiger ein solches System wäre, desto größer könnten diese Folgen werden.
An dieser Stelle kommt die Vorstellung einer AGI — Artificial General Intelligence ins Spiel. Gemeint ist eine künstliche Intelligenz, die nicht nur einzelne Aufgaben beherrscht, sondern menschliche geistige Fähigkeiten in vielen Bereichen erreicht. Von Superintelligenz spricht man, wenn ein System menschliche Fähigkeiten weit übertrifft.
Die entscheidende Annahme lautet: Ein hinreichend leistungsfähiges System könnte Wege finden, seine Ziele zu verfolgen, die Menschen nicht mehr kontrollieren können. Wenn es dafür Zugang zu Computern, Geld, Infrastruktur oder anderen technischen Systemen erhält, könnte ein falsch gesetztes Ziel katastrophale Folgen haben.
Für diese Argumentation braucht die Maschine keinen Hass auf Menschen und auch nicht notwendig etwas, das einem menschlichen Willen entspricht. Die Gefahr entsteht aus der Verbindung von sehr großer Leistungsfähigkeit, einem nicht ausreichend beherrschten Zielsystem und weitreichenden Handlungsmöglichkeiten.
Damit berührt die Argumentation ein Problem, das wir beim Hugging-Face-Vorfall tatsächlich beobachten konnten: Systeme können innerhalb eines vorgegebenen Rahmens Wege finden, die ihre Entwickler nicht vorhergesehen haben. Die Doomer-These verlängert diesen Befund jedoch weit in die Zukunft: Was geschieht, wenn solche Systeme Menschen irgendwann auch bei Softwareentwicklung, wissenschaftlicher Forschung oder strategischer Planung weit überlegen sind?
Der Effective Altruism kommt von einer anderen Seite. Seine ursprüngliche Frage lautet, wie begrenzte Mittel so eingesetzt werden können, dass sie möglichst viel Gutes bewirken. Ein Teil dieser Bewegung weitete diese Überlegung auf die ferne Zukunft aus. Wenn auch sehr viele möglicherweise zukünftige Menschen moralisch zählen, erhält die Verhinderung eines Ereignisses, das die Menschheit auslöschen könnte, ein außerordentlich großes Gewicht.
So verbinden sich zwei Denkwege: Rationalisten fragen, ob eine sehr leistungsfähige KI kontrollierbar wäre. Teile des *Effective Altruism *fragen, welche Risiken einen besonders großen möglichen Schaden verursachen. Eine unkontrollierbare Superintelligenz wird damit zum existenziellen Risiko — x-risk.
AI Doomer bezeichnet dagegen keine klar abgegrenzte philosophische Schule. Der Ausdruck wird für Menschen verwendet, die das Risiko einer durch fortgeschrittene KI verursachten menschlichen Katastrophe oder Auslöschung für ernst genug halten, um daraus weitreichende Konsequenzen abzuleiten.
Quellen: Machine Intelligence Research Institute, *About MIRI* sowie Eliezer Yudkowsky, *AI Alignment: Why It’s Hard, and Where to Start*; LessWrong, *LessWrong FAQ* und *AI alignment*; Effective Altruism, Fin Moorhouse, *Longtermism: An Introduction*. Die Quellen dienen der Rekonstruktion der Geschichte und des jeweiligen Selbstverständnisses, nicht der Bewertung der Positionen.
Big Short, not Terminator?
Nicht die Leistungsfähigkeit der KI sei aktuell die größte Gefahr, sondern die Tatsache, dass das Geschäftsmodell hinter dem gegenwärtigen KI-Boom nicht funktionieren könnte.
Die enormen Infrastrukturinvestitionen beruhen auf der Erwartung zukünftiger Nachfrage und Produktivität. Zitron verweist dagegen auf begrenzte wirtschaftliche Erträge vieler generativer KI-Projekte und bezweifelt, dass die Einnahmen schnell genug wachsen können, um die gewaltigen Investitionen in Rechenzentren und Chips zu rechtfertigen.
Daraus entwickelt er eine Blasenhypothese: Große Tech-Unternehmen, KI-Labs, Venture Capital, private Kreditmärkte und Rechenzentrumsinvestitionen hängen zunehmend voneinander ab. Besonders problematisch sei, dass ein großer Teil der Einnahmen der Frontier-Anbieter wiederum von KI-Start-ups komme, die selbst noch keine tragfähigen Geschäftsmodelle hätten.
Seine Analogie lautet daher Dotcom-Blase plus Elemente der Finanzkrise, nicht Terminator. Wenn die erwarteten Einnahmen ausbleiben, könnten Fehlinvestitionen, Kreditrisiken und Wertverluste weit über einzelne KI-Unternehmen hinausreichen.
Der für Zitron entscheidende Denkfehler lautet: Weil sehr reiche und vermeintlich kompetente Akteure enorme Summen investieren, wird angenommen, dass sie über Wissen verfügen müssen, das ihre Investitionen rechtfertigt. Historische Finanzblasen zeigten aber gerade, dass dies nicht notwendig der Fall ist.
Gerade hier wird die chinesische Konkurrenz interessant. Wenn leistungsfähige Modelle mit weniger Rechenleistung entwickelt oder erheblich billiger angeboten werden können, könnte das ihre Verbreitung beschleunigen. Für ein Geschäftsmodell, das auf immer größeren Modellen, hohen Infrastrukturinvestitionen und entsprechend hohen zukünftigen Erlösen beruht, kann dieselbe Entwicklung zum Problem werden.
Rabbit Hole: Wie teuer ist die KI-Wette?
Wer KI hauptsächlich über Chatbots kennenlernt, sieht zunächst Software. Hinter einer Antwort, die innerhalb weniger Sekunden auf dem Bildschirm erscheint, steht jedoch eine umfangreiche materielle Infrastruktur.
Sprachmodelle müssen zunächst trainiert werden. Dabei werden sehr große Datenmengen verarbeitet und die Parameter des Modells angepasst. Auch ihre laufende Nutzung benötigt Rechenleistung. Dieser Betrieb wird Inference genannt.
Eine zentrale Rolle spielen GPUs — ursprünglich für Grafikberechnungen entwickelte Prozessoren, die sehr viele Rechenoperationen parallel ausführen können und sich deshalb für maschinelles Lernen eignen. Tausende oder Zehntausende solcher Prozessoren werden in Rechenzentren zusammengeschaltet.
Dazu kommen Gebäude, Stromversorgung, Kühlung und Netzanschlüsse. KI benötigt deshalb nicht nur Modelle und Software, sondern eine industrielle Infrastruktur.
Die Größenordnung lässt sich an Meta zeigen. Das Unternehmen investierte 2025 rund 72 Milliarden Dollar. Für 2026 erwartet es Investitionsausgaben von 130 bis 145 Milliarden Dollar. Als wesentlichen Grund nennt Meta selbst den Ausbau seiner Infrastruktur und seiner KI-Kapazitäten.
Meta ist nur eines der Unternehmen, die diese Infrastruktur aufbauen. Weltweit treiben vor allem die großen Cloudanbieter — häufig Hyperscaler genannt — den Ausbau voran. Microsoft erklärte bereits 2025, seine gesamte Rechenzentrumskapazität innerhalb von zwei Jahren ungefähr verdoppeln zu wollen; 2026 bestätigte das Unternehmen, auf diesem Ausbaupfad zu liegen.
Hyperscaler stellen Rechenleistung in sehr großem Maßstab bereit. Dazu gehören unter anderem Microsoft, Amazon und Google. KI-Unternehmen müssen deshalb nicht jedes Rechenzentrum selbst besitzen. Sie können Rechenleistung von solchen Anbietern beziehen.
Vereinfacht entsteht eine materielle Kette:
Chips → Rechenzentren und Energie → Cloudanbieter → KI-Unternehmen → Modelle und KI-Dienste
Mit dem Umfang der Investitionen verändert sich auch ihre Finanzierung.
Meta hat beispielsweise gemeinsam mit BlackRock eine Gesellschaft für einen Rechenzentrumscampus in Texas gegründet. BlackRock hält 80 Prozent, Meta 20 Prozent. Die Entwicklungskosten werden mit rund 14 Milliarden Dollar angegeben; 12,5 Milliarden Dollar sollen über Fremdkapital finanziert werden. Meta wird den Campus zunächst selbst mieten.
Die KI-Wette liegt damit nicht mehr ausschließlich in den Bilanzen einiger großer Technologieunternehmen. Infrastruktur wird gemeinsam mit Vermögensverwaltern, Banken und anderen Kapitalgebern finanziert.
Auch KI-Labore werden in solche Strukturen eingebunden. 2026 organisierten Apollo und Blackstone eine Finanzierung von rund 35 Milliarden Dollar für den Ausbau von Rechenkapazität, die Anthropic nutzen soll. Die physische Infrastruktur wird von einem Cloud- und Rechenzentrumsanbieter betrieben.
Damit verändert sich die Frage nach dem wirtschaftlichen Erfolg der KI.
Es reicht nicht, dass Menschen ChatGPT oder andere KI-Dienste nutzen. Aus der Nutzung müssen letztlich genügend Einnahmen entstehen, um Modelle zu entwickeln, Rechenleistung einzukaufen und die aufgebaute Infrastruktur zu finanzieren.
Dafür gibt es verschiedene Einnahmequellen: Abonnements, Unternehmensverträge und die Nutzung von Modellen über eine API, eine Programmierschnittstelle, über die andere Programme automatisch Anfragen an ein KI-Modell schicken können. Abgerechnet wird häufig nach Tokens, kleinen Texteinheiten, die das Modell verarbeitet oder erzeugt.
Damit lässt sich die ökonomische Kernfrage genauer formulieren:
Wie viel zusätzliche wirtschaftliche Wertschöpfung und wie viele zahlungsbereite Anwendungen entstehen aus KI — und reichen die daraus erzielbaren Einnahmen aus, um die bereits aufgebaute und geplante Infrastruktur rentabel zu betreiben?
Die Größenordnung der Wette lässt sich inzwischen kaum noch bestreiten. Ob sie sich auszahlt, ist offen.
Und je stärker der Ausbau über Kredite, Zweckgesellschaften und langfristige Verträge finanziert wird, desto wichtiger wird eine zweite Frage: Wer trägt das Risiko, wenn die erwarteten Einnahmen ausbleiben?
Quellen: Meta, *Second Quarter 2026 Results* sowie Fourth Quarter and Full Year 2025 Results; Microsoft, Earnings Calls FY2026 Q1 und Q4; Meta/BlackRock, *Meta Announces New Strategic Venture with BlackRock to Develop Data Center in El Paso*, 28. Juli 2026; Apollo, *Apollo Leads $35 Billion Capital Solution for Broadcom AI XPV Platform in Partnership with Blackstone and Leading Global Banks*, 9. Juni 2026.
Rabbit Hole: Wie könnte aus der KI-Wette eine Finanzkrise werden?
Noch Anfang 2026 ließ sich die Frage weitgehend hypothetisch stellen. Inzwischen ist die Finanzierungsstruktur des KI-Booms deutlicher erkennbar.
Die Investitionen sind so groß geworden, dass sie zunehmend nicht mehr allein aus den laufenden Einnahmen der großen Technologieunternehmen finanziert werden. Die Unternehmen greifen verstärkt auf die Finanzmärkte zurück. Neben Unternehmensanleihen spielen Bankkredite, Private Credit, strukturierte Finanzierungen und außerbilanzielle Konstruktionen eine wachsende Rolle.
Die Bank of England stellte im Juli 2026 fest, dass sich diese Entwicklung im ersten Halbjahr stark beschleunigt hat. Ende 2025 entfielen nur drei Prozent des ausstehenden US-Investment-Grade-Unternehmensanleihemarktes auf die fünf großen KI-Hyperscaler. Das sind sehr große Cloudanbieter, die Rechenleistung, Speicher und Rechenzentren in globalem Maßstab betreiben und ihre Kapazitäten bei steigender Nachfrage stark ausweiten können. Dazu gehören etwa Microsoft, Amazon und Google. Bis Anfang Mai 2026 kamen diese jedoch bereits auf mehr als 15 Prozent der in diesem Jahr neu ausgegebenen Investment-Grade-Anleihen. Nach den von der Bank zitierten Schätzungen könnte mehr als die Hälfte des externen Finanzierungsbedarfs für Rechenzentren von 2026 bis 2028 über Schulden gedeckt werden.
Damit entsteht eine neue Finanzarchitektur rund um die KI.
Ein Teil der Rechenzentren wird über eigene Gesellschaften oder Zweckgesellschaften finanziert. Technologieunternehmen beteiligen sich an ihnen, schließen langfristige Miet- oder Abnahmeverträge ab, während Banken, Private-Credit-Fonds, Versicherer und andere institutionelle Anleger das Fremdkapital bereitstellen.
Die Bank für Internationalen Zahlungsausgleich spricht bei einem Teil dieser Konstruktionen von „shadow borrowing“: wirtschaftlich schuldenähnlichen Verpflichtungen, die weitgehend außerhalb der Bilanz des Technologieunternehmens liegen.
Vereinfacht entsteht eine Kette:
KI-Unternehmen und Hyperscaler → langfristige Miet- und Abnahmeverpflichtungen → Rechenzentrums- und Infrastrukturgesellschaften → Kredite und strukturierte Finanzierungen → Banken, Private-Credit-Fonds, Versicherer und andere Anleger
Hinzu kommt eine zweite Form der Verflechtung. Hyperscaler und Chiphersteller beteiligen sich an KI-Laboren oder Cloudanbietern, die sich ihrerseits verpflichten, Chips oder Rechenleistung bei ihren Kapitalgebern zu kaufen. Die BIS bezeichnet solche Konstruktionen als circular financing.
Kapital fließt damit vom Technologieunternehmen zum KI-Unternehmen und über dessen Käufe teilweise wieder als Umsatz zurück.
Solche Verbindungen erschweren die Beurteilung des Risikos. Einnahmen, Unternehmensbewertungen, Investitionen und Finanzierung können stärker voneinander abhängen, als einzelne Bilanzen erkennen lassen.
Entscheidend ist deshalb nicht nur, wie viel Geld in KI investiert wird. Entscheidend ist, wie viele finanzielle Ansprüche auf den erwarteten zukünftigen Erträgen dieser Investitionen beruhen.
Auch die möglichen Auslöser eines Problems werden inzwischen konkreter. Die Nachfrage nach Rechenleistung könnte geringer wachsen als erwartet. Die Preise für KI-Leistungen könnten fallen. Technischer Fortschritt könnte ermöglichen, dieselbe Leistung mit weniger Chips und Energie zu erbringen. Rechenzentren oder die darin eingesetzte Hardware könnten schneller wirtschaftlich veralten als bei ihrer Finanzierung angenommen.
Was technisch ein Fortschritt wäre, könnte dann finanziell zum Problem werden.
Erste Spannungen lassen sich bereits beobachten. Im September 2026 gerieten rund 18 Milliarden Dollar Kredite für einen von Oracle gemieteten Rechenzentrumscampus in New Mexico unter Druck. Die Kredite wurden unter ihrem Nennwert gehandelt. Banken konnten Teile der Finanzierung nicht wie vorgesehen an andere Investoren weiterreichen und mussten mehr davon in ihren eigenen Bilanzen behalten.
Das zeigt einen möglichen Übertragungsweg zu einer Finanzkrise: Probleme eines KI-Infrastrukturprojekts können unmittelbar auf Banken und andere Kapitalgeber zurückwirken.
Auch die Aufsichtsbehörden formulieren das Risiko inzwischen entsprechend. Die Bank of England sieht in der zunehmenden Verschuldung, der wachsenden Bedeutung von Private Credit und strukturierten Finanzierungen sowie den außerbilanziellen Konstruktionen mögliche Kanäle, über die ein Schock im KI-Sektor auf das Finanzsystem übergreifen könnte. Die BIS verweist zusätzlich auf das schwer durchschaubare Netz privater Finanzierungsbeziehungen zwischen Hyperscalern, Chipherstellern, KI-Laboren und Finanzinvestoren.
Damit lässt sich Zitrons „Big Short“ heute genauer fassen.
Die These muss nicht lauten, dass der KI-Boom zwangsläufig in einer Finanzkrise endet. Aber die Voraussetzung für eine solche Krise — die Verbindung großer Investitionen mit Fremdfinanzierung und die Verteilung der daraus entstehenden Ansprüche über verschiedene Teile des Finanzsystems — beginnt sich erkennbar herauszubilden.
Offen ist, wie belastbar dieses Geflecht ist.
Die Bank of England beurteilt das unmittelbare Finanzstabilitätsrisiko bislang noch als begrenzt, weil der Bestand der ausstehenden KI-bezogenen Schulden Anfang 2026 vergleichsweise klein war. Zugleich stellt sie fest, dass sich dies schnell verändert. Die zunehmende Verflechtung des KI-Sektors mit anderen Bereichen und seine wachsende Abhängigkeit von externer Finanzierung erhöhen nach ihrer Einschätzung das Risiko, dass ein Schock weiter durch das Finanzsystem übertragen wird.
Zitrons „Big Short“ ist damit weiterhin keine Prognose. Aber die Frage lässt sich inzwischen empirisch stellen:
Wie groß wird das kreditfinanzierte KI-System, wie stark hängen seine Teile voneinander ab — und was geschieht mit diesen Forderungen, wenn die erwarteten KI-Erträge ausbleiben?
Quellen: Bank of England, *Financial Stability Report – July 2026*, Abschnitt 2; Bank for International Settlements, *Financing the AI infrastructure boom: on- and off-balance sheet borrowing*, 2026; ergänzend Reuters, *Oracle’s $18 billion data center debt under pressure*, 18. September 2026.
Die Gefahr wieder auf die Erde holen
Der Ausgangspunkt war ein verstörender Vorgang: KI-Agenten entwickelten Formen der Zusammenarbeit, die ihre Entwickler nicht vorgesehen hatten. Menschen geben solchen Systemen Ziele, Werkzeuge und Zugriffsrechte, ohne jeden möglichen Verlauf vorhersehen zu können.
Für die neuen Risiken bleiben jedoch Menschen und Institutionen verantwortlich. Zitron endet entsprechend mit sehr prosaischen Maßnahmen, nicht mit einem abstrakten AGI-Verbot.Er fordert vor allem Transparenz über die vorhandene Recheninfrastruktur: Wie groß sind die Kapazitäten der Rechenzentren, wie viel davon wird tatsächlich genutzt, und wie viel davon durch OpenAI oder Anthropic? Hinzu kommen Einschränkungen bestimmter Anwendungen, insbesondere bei Hausaufgaben, psychischen Dienstleistungen, Freundschafts- und Companion-Anwendungen.
Außerdem fordert er Ermittlungen bei Hacking-Vorfällen und klare rechtliche Grenzen für entsprechende Experimente. Politiker müssten sowohl die Technik als auch die Finanzierung der Branche besser verstehen.
Ein weiterer Schwerpunkt ist Finanztransparenz. Zitron kritisiert Kennzahlen wie „annualized run rate“, mit denen private Unternehmen aus kurzen Zeiträumen hochgerechnete Jahresumsätze kommunizieren können. Die finanziellen Angaben privater KI-Unternehmen müssten stärker standardisiert und überprüfbar werden.
Sein Schlussgedanke fasst eigentlich die gesamte Diskussion zusammen: Weniger Beschäftigung mit „großen“, spektakulären Sicherheitskonzepten wie Kill Switches und Superintelligenz; mehr Aufmerksamkeit für konkrete Produkte, konkrete Schäden, konkrete Unternehmen, Finanzströme, Haftung und bestehendes Recht.
Ausblick: China — eine andere Entwicklungslogik?
Damit ist die Ausgangsfrage dieses Beitrags beantwortet. Eine weiterführende Frage bleibt jedoch offen: Ist die amerikanische Art, KI zu entwickeln und über ihre Risiken zu sprechen, die einzig mögliche? Wie werden in unterschiedlichen Entwicklungsmodellen Frontier-Forschung, materielle Infrastruktur, wirtschaftliche und gesellschaftliche Anwendung sowie Risikosteuerung miteinander verbunden?
Chinas 15. Fünfjahresplan für 2026 bis 2030 formuliert den Anspruch, technologische Entwicklung, materielle Voraussetzungen, wirtschaftliche und gesellschaftliche Verwendung sowie politische Steuerung gemeinsam zu organisieren. AGI und Frontier-Forschung kommen im Plan vor. Der Unterschied besteht also nicht schlicht darin, dass die USA eine Superintelligenz entwickeln wollten, während China sich auf praktische Anwendungen konzentriere. Aber man setzt einen anderen Schwerpunkt: weniger auf die Erzählung von der kommenden Superintelligenz, stärker auf Effizienz, Infrastruktur und Anwendung.
Ob und wie das in der Praxis funktioniert, wäre eine gesonderte Untersuchung wert.
Rabbit Hole: Wie ordnet China KI in den 15. Fünfjahresplan ein?
Der chinesische Fünfjahresplan für 2026 bis 2030 ist kein spezieller KI-Plan. Er beschreibt die wirtschaftliche und gesellschaftliche Entwicklung des Landes insgesamt. Gerade deshalb ist interessant, welchen Platz KI darin erhält.
Der Plan verbindet mehrere Ebenen.
1. Technologische Entwicklung
China will nicht lediglich vorhandene Modelle anwenden. Der Plan fordert Fortschritte in Grundlagenforschung und Kerntechnologien der Künstlichen Intelligenz. Genannt werden multimodale Modelle, Agenten, verkörperte Intelligenz und Schwarmintelligenz. Ausdrücklich sollen auch Entwicklungspfade zu einer Artificial General Intelligence erkundet werden.
Zugleich sollen Training und Betrieb der Modelle effizienter werden. Allgemeine große Modelle und spezialisierte Branchenmodelle sollen parallel entwickelt und anhand konkreter Anwendungen weiter verbessert werden.
2. Materielle Infrastruktur
KI wird als Technologie behandelt, die Rechenleistung, Energie und Daten benötigt.
Rechenzentren sollen koordiniert ausgebaut, große Rechencluster geprüft und Rechenkapazitäten landesweit besser verteilt werden. Der Zugang soll zugleich günstiger werden, insbesondere für kleinere und mittlere Unternehmen. Auch die Verbindung von Rechenzentren und Stromversorgung wird berücksichtigt.
Für Energie, Verkehr, Industrie, Bildung, Gesundheit und Finanzwirtschaft sollen hochwertige Datensätze aufgebaut werden.
3. Wirtschaftliche und gesellschaftliche Anwendung
Unter dem Programm „AI Plus“ soll KI mit Industrie, Wissenschaft, Bildung, Medizin, Pflege, öffentlicher Verwaltung und anderen Bereichen verbunden werden.
Für die Industrie nennt der Plan unter anderem intelligente Fertigung und industrielle Internetstrukturen; für Bildung und Gesundheitsversorgung sind eigene Anwendungen vorgesehen. Auch staatliche Dienstleistungen sollen KI einsetzen.
Anwendung erscheint dabei nicht erst als spätere Verwertung einer fertig entwickelten Technologie. Konkrete Einsatzfelder sollen ihrerseits die Weiterentwicklung der Modelle vorantreiben.
4. Regulierung und Risikosteuerung
Auch Governance wird als Bestandteil der Entwicklung behandelt.
Vorgesehen sind unter anderem Regeln für die Registrierung von Algorithmen, Transparenz und Sicherheitsbewertungen. Außerdem soll ein Risikomanagement über den gesamten Lebenszyklus von KI-Systemen aufgebaut werden — von Sicherheitsüberwachung und Frühwarnung bis zur Reaktion auf Zwischenfälle.
Für unsere Fragestellung besonders interessant ist die Verantwortungszuordnung. Der Plan sieht Regeln für die jeweiligen Rechte und Pflichten von Entwicklern, Betreibern und Nutzern vor.
Damit ergibt sich eine programmatische Architektur:
Grundlagen- und Frontier-Forschung → Rechenleistung und Daten → konkrete Anwendungen → Regulierung und Risikosteuerung
Die Pfeile bezeichnen keine zeitliche Reihenfolge. Diese Bereiche sollen gleichzeitig entwickelt und miteinander verbunden werden.
Genau darin liegt die interessante Vergleichsfrage zur amerikanischen Debatte, die Zitron und Stoller beschreiben.
Das ist zunächst eine institutionelle Architektur auf dem Papier. Aus dem Plan lässt sich nicht ableiten, wie gut sie praktisch funktioniert, welche Interessenkonflikte dabei entstehen oder welche Probleme mit der stärkeren staatlichen Steuerung verbunden sind.
Damit verschiebt sich auch die Frage nach der Zukunft der KI. Es geht nicht nur um die Leistungsfähigkeit einer Technologie, sondern auch darum wie sie gesellschaftlich genutzt wird.
Quelle: Volksrepublik China, Outline of the 15th Five-Year Plan for National Economic and Social Development, 2026–2030.
Quellen und Prüfbelege
Hauptquelle: David Sirota im Gespräch mit Ed Zitron und Matt Stoller, *What Tech Oligarchs Gain From AI* *Doomerism*, Lever Time / The Lever, 17. September 2026.
Hugging Face: METR/Redwood Research, Brief independent investigation of agents‘ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident, 26. August 2026; OpenAI, *The* *Hugging Face incident and the road* *ahead*, 26. August 2026.
KI-Begleiter: Reuters, Google, AI firm settle lawsuit over teen’s suicide linked to Chatbot, 7. Januar 2026; Reuters, Bericht zur Klage der Eltern von Adam Raine gegen OpenAI, 26. August 2025. Die Quellen dokumentieren die Verfahren und Vorwürfe, nicht eine gerichtliche Feststellung der Kausalität.
Minab/Maven: UN-Fact-Finding-Mission zum Iran, September 2026; Bloomberg, Inside the US ‚Kill Chain‘ That Destroyed an Iranian School; Reuters, Bericht zu den Ergebnissen der UN-Mission, 17. September 2026.
Haftung: John Adams / Steven Garber, Product and Stock Market Responses to Automotive Product Liability Verdicts, Brookings Papers on Economic Activity: Microeconomics, 1998. Die Untersuchung wird nur als Beleg dafür verwendet, dass Haftungsentscheidungen wirtschaftliche Reaktionen auslösen können.
Rationalismus, Alignment und Effective Altruism: Machine Intelligence Research Institute, About MIRI (https://intelligence.org/about/) sowie Eliezer Yudkowsky, AI Alignment: Why It’s Hard, and Where to Start (https://intelligence.org/2016/12/28/ai-alignment-why-its-hard-and-where-to-start/); LessWrong, LessWrong FAQ (https://www.lesswrong.com/posts/2rWKkWuPrgTMpLRbp/lesswrong-faq) und AI alignment (https://www.lesswrong.com/w/ai-alignment); Effective Altruism, Fin Moorhouse, Longtermism: An Introduction (https://www.effectivealtruism.org/articles/longtermism). Diese Quellen dienen der Rekonstruktion der Geschichte und des jeweiligen Selbstverständnisses, nicht der Bewertung der Positionen.
Investitionen und Infrastruktur: Meta, *Second Quarter 2026* *Results* sowie Fourth Quarter and Full Year 2025 Results; Microsoft, Earnings Calls FY2026 Q1 und Q4; Meta/BlackRock, *Meta Announces New Strategic* *Venture with BlackRock to Develop Data Center in El* *Paso*, 28. Juli 2026; Apollo, *Apollo Leads $35 Billion Capital Solution for* *Broadcom AI XPV Platform in Partnership with Blackstone and Leading* *Global* *Banks*, 9. Juni 2026. Die letztgenannte Plattform finanziert zunächst mehr als 1 GW zusätzlicher Rechenkapazität für Anthropic.
KI-Ausgaben und Preiswettbewerb: Reuters, *Investors nervous about* *AI spending slowdown after industry* *warnings*, 15. September 2026; DeepSeek, aktuelle API-Preise.
Finanzielle Verflechtungen: Bank of England, *Financial Stability* *Report — July* *2026*, Abschnitt 2; Bank for International Settlements, *Financing the AI* *infrastructure boom: on- and off-balance sheet* *borrowing*, 2026; ergänzend Reuters, *Oracle’s $18 billion data center debt under* *pressure*, 18. September 2026.
China: Volksrepublik China, *Outline of the 15th Five-Year Plan for* National Economic and Social Development, 2026–2030.
us sagt:
Siehe dazu auch: Ethikerin: KI-Entwicklung verlangsamen reicht nicht