Superintelligenz: Monster, Macht und Moneten

  • 16. Juli 2026: das KI-Unternehmen Hugging Face gibt in seinem Blog bekannt, dass es Ziel eines Cyberangriffs geworden sei, der „sich von allem unterschied, womit wir bisher zu tun hatten“. Das Unternehmen, das Open-Source-KI-Modelle und Datensätze hostet, erklärte, dass ein autonomer Agent Zugriff auf einen Teil seiner internen Daten erlangt habe.

  • 2. September 2026: Das „Wall Street Journal“ berichtet, dass der ehemalige Trump-Berater Steve Bannon „einen Vorschlag von Senator Bernie Sanders (I-VT) und der Abgeordneten Alexandria Ocasio-Cortez (D-NY) unterstützt, den Bau neuer Rechenzentren zu verbieten“.

  • 3. September 2026: OpenAI veröffentlicht GPT-6 Astra, das das Unternehmen als „das intelligenteste und am besten abgestimmte Modell der Welt“ beschreibt.

  • US-Senator Bernie Sanders (I-VT) und der US-Abgeordnete Greg Casar (D-TX) kündigen den „Ban Artificial Superintelligence Act“ an. Sollte das Gesetz verabschiedet werden, wird die gesamte KI-Entwicklung in den Vereinigten Staaten ausgesetzt.

  • 8. September 2026: Der Anthropic-Forscher Jacob Coxon veröffentlicht eine Meldung, in dem es heißt: „Ich habe heute bei Anthropic gekündigt. Ich habe die letzten drei Jahre mit Vortrainings-Forschung verbracht, sowohl bei OpenAI als auch bei Anthropic Keines der beiden Unternehmen handelt verantwortungsbewusst. Sie rasen geradewegs auf eine sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben“, und „die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte“.

Kommt jetzt die Superintelligenz, die sich – immer leistungsfähiger geworden – menschlicher Kontrolle entzieht, einen eigenen Willen entwickelt und schließlich uns alle töten wird?

Ausgangspunkt des Gesprächs des Technologiekritikers Ed Zitron und des Wettbewerbsexperten Matt Stoller mit dem Journalisten David Sirota ist der o.g. Vorfall, bei dem sich KI-Agenten von Open AI bei der Suche nach Sicherheitslücken Zugang zu Systemen der Plattform Hugging Faceverschafft hatten.

Rabbit Hole: Gastgeber und Gäste: David Sirota, Ed Zitron und Matt Stoller

David Sirota ist ein US-amerikanischer Investigativjournalist, Autor und politischer Publizist, Jahrgang 1975. Er studierte Journalismus und Politikwissenschaft an der Northwestern University. Vor seiner journalistischen Laufbahn arbeitete er in der US-Politik, unter anderem für Bernie Sanders; im Präsidentschaftswahlkampf 2020 war er zeitweise dessen Redenschreiber. Später konzentrierte er sich auf investigativen Journalismus, insbesondere auf das Verhältnis von Wirtschaftsmacht, Finanzsektor und Politik. 2020 gründete er The Lever, ein leserfinanziertes investigatives Medium. Dort moderiert er auch den Podcast Lever Time, aus dem unser Gespräch stammt. Daneben war er an der Entwicklung der Geschichte für Adam McKays Film Don’t Look Up beteiligt und wurde dafür mit McKay für einen Oscar nominiert.

Ed Zitron, geboren 1986 in England, kommt ursprünglich aus Journalismus und Public Relations. Er schrieb zunächst über Videospiele, wechselte in die PR-Branche und gründete später seine eigene PR-Agentur EZPR. Seit 2020 schreibt er den Newsletter Where’s Your Ed At?; außerdem moderiert er den Podcast Better Offline. Er ist inzwischen vor allem als scharfer Kritiker der US- Techindustrie und des gegenwärtigen KI-Booms bekannt.

Matt Stoller ist ein US-amerikanischer Autor und Wettbewerbs- bzw. Monopolismuskritiker. Er war unter anderem Policy Adviser beim Haushaltsausschuss des US-Senats und arbeitete während der Finanzkrise für ein Mitglied des Finanzausschusses des Repräsentantenhauses. Heute ist er Forschungsdirektor des American Economic Liberties Project, einer Organisation, die sich mit wirtschaftlicher Machtkonzentration und Wettbewerbspolitik beschäftigt. Bekannt wurde er insbesondere durch sein Buch Goliath: The 100-Year War Between Monopoly Power and Democracy. Außerdem schreibt er den Newsletter BIG, in dem er Unternehmensmacht, Kartelle und Wettbewerbspolitik untersucht.

Lieber linear lesen? Zur linearen Fassung des Beitrags →

Weiterlesen