Superintelligenz: Monster, Macht und Moneten … und Marx

Vom Gespräch über den KI-Hype zur politischen Ökonomie einer neuen Produktivkraft

  • 16. Juli 2026: das KI-Unternehmen Hugging Face gibt in seinem Blog bekannt, dass es Ziel eines Cyberangriffs geworden sei, der „sich von allem unterschied, womit wir bisher zu tun hatten“. Das Unternehmen, das Open-Source-KI-Modelle und Datensätze hostet, erklärte, dass ein autonomer Agent Zugriff auf einen Teil seiner internen Daten erlangt habe.

  • 2. September 2026: Das „Wall Street Journal“ berichtet, dass der ehemalige Trump-Berater Steve Bannon „einen Vorschlag von Senator Bernie Sanders (I-VT) und der Abgeordneten Alexandria Ocasio-Cortez (D-NY) unterstützt, den Bau neuer Rechenzentren zu verbieten“.
  • 3. September 2026: OpenAI veröffentlicht GPT-6 Astra, das das Unternehmen als „das intelligenteste und am besten abgestimmte Modell der Welt“ beschreibt. Am selben Tag kündigen US-Senator Bernie Sanders (I-VT) und der US-Abgeordnete Greg Casar (D-TX) den „Ban Artificial Superintelligence Act“ an. Der Entwurf soll Superintelligenz dauerhaft verbieten und die Entwicklung fortgeschrittener KI vorübergehend aussetzen, bis eine neue Bundesbehörde Sicherheitsregeln festgelegt hat.
  • 8. September 2026: Der Anthropic-Forscher Jacob Coxon veröffentlicht eine Meldung, in der es heißt: „Ich habe heute bei Anthropic gekündigt. Ich habe die letzten drei Jahre mit Vortrainings-Forschung verbracht, sowohl bei OpenAI als auch bei Anthropic Keines der beiden Unternehmen handelt verantwortungsbewusst. Sie rasen geradewegs auf eine sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben“, und „die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte“.

Kommt jetzt die Superintelligenz, die sich – immer leistungsfähiger geworden – menschlicher Kontrolle entzieht, einen eigenen Willen entwickelt und schließlich uns alle töten wird?

Im Mittelpunkt dieses Beitrags steht die Wiedergabe eines Gesprächs des Technologiekritikers Ed Zitron und des Wettbewerbsexperten Matt Stoller mit dem Journalisten David Sirota. Ausgehend von dem oben beschriebenen Vorfall, bei dem sich KI-Agenten von OpenAI bei der Suche nach Sicherheitslücken Zugang zu Systemen der Plattform Hugging Face verschafft hatten, führt es über die Funktionsweise von KI-Agenten zum Verhalten der Medien, zu Regulierungsfragen und chinesischer Konkurrenz schließlich zu einer ganz anderen Vorstellung von der möglichen KI-Krise: „Big Short, not Terminator.“

Vor allem in den Rabbit Holes vertieft dieser Beitrag jedoch die im Gespräch aufgeworfenen Fragen: Was geschieht, wenn Tech-Konzerne und Staat immer enger verflochten sind? Wie lässt sich eine Technologie profitabel verwerten, deren Leistung zugleich immer billiger und allgemeiner verfügbar wird? Und entwickelt sich dieselbe neue Produktivkraft unter anderen institutionellen Bedingungen – anderen gesellschaftlichen Verhältnissen also – anders?

Rabbit Hole: Gastgeber und Gäste: David Sirota, Ed Zitron und Matt Stoller

David Sirota ist ein US-amerikanischer Investigativjournalist, Autor und politischer Publizist, Jahrgang 1975. Er studierte Journalismus und Politikwissenschaft an der Northwestern University. Vor seiner journalistischen Laufbahn arbeitete er in der US-Politik, unter anderem für Bernie Sanders; im Präsidentschaftswahlkampf 2020 war er zeitweise dessen Redenschreiber. Später konzentrierte er sich auf investigativen Journalismus, insbesondere auf das Verhältnis von Wirtschaftsmacht, Finanzsektor und Politik. 2020 gründete er The Lever, ein leserfinanziertes investigatives Medium. Dort moderiert er auch den Podcast Lever Time, aus dem unser Gespräch stammt. Daneben war er an der Entwicklung der Geschichte für Adam McKays Film Don’t Look Up beteiligt und wurde dafür mit McKay für einen Oscar nominiert.

Ed Zitron, geboren 1986 in England, kommt ursprünglich aus Journalismus und Public Relations. Er schrieb zunächst über Videospiele, wechselte in die PR-Branche und gründete später seine eigene PR-Agentur EZPR. Seit 2020 schreibt er den Newsletter Where’s Your Ed At?; außerdem moderiert er den Podcast Better Offline. Er ist inzwischen vor allem als scharfer Kritiker der US- Techindustrie und des gegenwärtigen KI-Booms bekannt.

Matt Stoller ist ein US-amerikanischer Autor und Wettbewerbs- bzw. Monopolismuskritiker. Er war unter anderem Policy Adviser beim Haushaltsausschuss des US-Senats und arbeitete während der Finanzkrise für ein Mitglied des Finanzausschusses des Repräsentantenhauses. Heute ist er Forschungsdirektor des American Economic Liberties Project, einer Organisation, die sich mit wirtschaftlicher Machtkonzentration und Wettbewerbspolitik beschäftigt. Bekannt wurde er insbesondere durch sein Buch Goliath: The 100-Year War Between Monopoly Power and Democracy. Außerdem schreibt er den Newsletter BIG, in dem er Unternehmensmacht, Kartelle und Wettbewerbspolitik untersucht.

Lieber linear lesen? Zur linearen Fassung des Beitrags →

Weiterlesen →

Warum wurde dieser „harmlose“ Kommentar nicht freigeschaltet?

Als Antwort auf diesen Kommentar zu einem Artikel im Tagesspiegel zum Gerichtsurteil zur Auslieferung von Assange

Was für ein Unrecht…
Sollte er ausgeliefert werden, dann können sich auch die Journalisten vom Tagesspiegel warm anziehen – vorbei die Pressefreiheit….

schrieb ich gestern

Das müssen sie mit Sicherheit nicht. Sie halten sich an die Vorgaben. Es wäre z.B. undenkbar, dass die Journalisten des Tagesspiegel eine gemeinsame Erklärung verfassen und veröffentlichen, in der sie – im Interesse der Glaubwürdigkeit des Westens – die sofortige Freilassung von Julian Assange fordern. Sie wären ihren Job los. Auf der anderen Seite können sie auch keine Artikel verfassen, z.B. in der Form eines Kommentars im Tagesspiegel, in dem sie das Vorgehen gegen Assange rechtfertigen. Ein echtes Dilemma, aber ein wohlverdientes, wie ich meine.

Das wurde nicht freigeschaltet. Auch auf die Nachfrage, inwiefern das gegen die Community-Richtlinien verstieße, ebenfalls keine Antwort.

Dabei gab es in den anderen freigeschalteten Kommentaren keinen Mangel an Kritik, wie z.B.

Im Fall von Assange werden nicht die Kriegsverbrecher und deren Befehlsgeber zur Verantwortung gezogen, sondern Assange, der die Welt über die Kriegsverbrechen informierte.

Es ist also interessant, warum gerade dieser Kommentar nicht veröffentlicht wurde. Vielleicht, weil er die Frage aufwirft, welchen Spielraum die Journalisten in einem solchen Medium tatsächlich haben. Sicher sind die meisten Journalisten auch in den Mainstreammedien privat der Meinung, dass Assange lieber freigelassen werden sollte, anstatt in die USA ausgeliefert zu werden. Aber es ist in der Tat undenkbar, dass alle Journalisten des Tagesspiegel (oder anderer großer Medien), die dieser Meinung sind, eine gemeinsame öffentliche Erklärung mit dieser Stoßrichtung abgeben. Genauso undenkbar ist es, dass in diesen Medien ein Artikel nach dem anderen mit dem Grundton der Empörung nach der Freilassung von Assange ruft, wie das für Nawalny selbstverständlich war. Vielmehr ist recht genau reguliert, was geht und was nicht. Kritik in den Kommentaren geht, minimale „neutrale“ Berichterstattung bei wesentlichen Ereignissen wie jetzt anlässlich des Gerichtsurteils geht, einzelne Journalisten dürfen auch ausnahmsweise eine Gegenposition beziehen, wie z.B. Harald Schumann vom Tagesspiegel, der ohnehin dort ein krasser Außenseiter ist. Totales Verschweigen geht nicht (wie bei dem OPCW-Skandal und dem veröffentlichten Briefwechsel zu Minsk 2). Ich habe keinen Zweifel, dass die Mainstreamjournalisten hier den Hauch der Macht spüren, auch wenn einige (viele? die meisten?) das in ihrer Überidentifizierung mit derselben abstreiten würden.

Dass in Israel Apartheid herrscht, hört man gar nicht gerne

Vor zwei Wochen erschien im Tagesspiegel ein Artikel, in dem Aktivisten von Fridays for Future wegen ihrer Parteinahme für die Palästinenser kritisiert wurden, die zum Teil auch die Unterstützung der BDS-Bewegung beinhaltete. Im Artikel kommt fünf Mal das Wort „antisemitisch“ bzw. „Antisemitismus“ vor, ohne der deutschen FFF-Sektion direkt Antisemitismus vorzuwerfen. Das Wort „Apartheid“ kommt natürlich nicht vor.

Ich habe folgenden Kommentar abgegeben, der aber nicht freigeschaltet wurde:

Der Tagesspiegel hat es bisher nicht einmal geschafft zu erwähnen, dass Human Rights Watch die israelischen Zustände als Apartheid charakterisiert hat. Vermutlich werden das viele Kommentatoren in diesem Zusammenhang aufgegriffen haben; in den Kommentaren ist aber das Wort „Apartheid“ kein einziges Mal zu finden. Vermutlich will man nicht, dass die Leser es auf diesem Weg erfahren. Ich nehme also an, dass auch dieser mein Kommentar nicht freigeschaltet wird, würde mich aber freuen, wenn doch. Jeder informierte Mensch weiß es ohnehin, die Aktivisten von Fridays for Future mit Sicherheit. Um so peinlicher für den Tagesspiegel.

Weiterlesen →