KI und Demokratie stehen für den Anwalt Matthew Butterick in einem Konflikt, der ohne Terminator-Szenario auskommt. Sein Befund: Das größte Risiko entsteht, sobald KI genau so funktioniert wie geplant. Pikant wird sein Text durch einen Widerspruch, den Butterick selbst einräumt.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Die Frage nach KI und Demokratie wird meist über Science-Fiction verhandelt: außer Kontrolle geratene Maschinen, autonome Waffen, das Ende der Menschheit. Matthew Butterick hält diese Bilder für eine Ablenkung. Der US-Anwalt und Programmierer beschreibt in seinem Essay „Extinction-level capitalism“ ein nüchterneres und für Entscheider greifbareres Szenario.
Das Wichtigste in Kürze
- Butterick verlagert die KI-Risikodebatte weg vom Terminator hin zu Kapitalkonzentration und Arbeitsplatzverlust.
- Seine These: KI ist vor allem ein kapitalistisches Instrument, das bestehende Trends verstärkt und die liberale Demokratie aushöhlt.
- Für Unternehmen birgt der Text eine unbequeme Pointe, den vergifteten Kelch: Eigene Wissensarbeit durch KI zu ersetzen, macht den Output beliebig kopierbar.
- Der Autor ist befangen und an Klagen gegen KI-Konzerne beteiligt. Zugleich zweifelt er selbst, ob KI die versprochenen Renditen liefert.
Warum sollte dieser Essay Entscheider interessieren?
Matthew Butterick ist Schriftgestalter, Programmierer und Anwalt. 2022 entdeckte Butterick eigene Werke in den Trainingsdaten generativer KI-Modelle und strengte daraufhin die ersten Klagen gegen die Rechtmäßigkeit dieser Praxis an. Heute vertritt der Jurist Kläger in mehreren KI-Verfahren.
Diese Rolle macht ihn zum interessierten Beobachter, und genau das gehört auf den Tisch. Ein Mann, der gegen KI-Konzerne prozessiert, schreibt keinen neutralen Lagebericht. Trotzdem lohnt die Lektüre, weil Butterick nicht als Maschinenstürmer argumentiert, sondern ökonomisch. Seine Sprache ist die von Kapital, Arbeitsmärkten und politischer Macht, nicht die von Robotern mit roten Augen.
Was meint Butterick mit dem „Skynet-Irrtum“?
Den Begriff Skynet-Irrtum prägt Butterick für eine verbreitete Denkfigur. KI-Debatten greifen gern zu Bildern aus dem Kino: der Terminator, die Maschine, die die Welt unterwirft. Solche Szenarien eignen sich für Spielfilme, taugen laut Butterick aber schlecht als Risikomodell.
Die wahrscheinlichen Risiken sind nach seiner Lesart langweilig, langsam und brauchen kaum zusätzliche Technik. Eine buchstäbliche Auslöschung der Menschheit vergleicht der Autor mit einem Blitzschlag, also einem spektakulären, aber unwahrscheinlichen Ereignis. Wahrscheinlicher sei ein schleichender Wandel der wirtschaftlichen und politischen Verhältnisse, den viele heute für untragbar hielten.
Als Beleg dient ihm das bekannte Gedankenexperiment vom Büroklammer-Maximierer des Philosophen Nick Bostrom. Eine KI, die nur Büroklammern herstellen soll, verbraucht am Ende alle Ressourcen der Erde. Schon lange vor einer Auslöschung würden Menschen in diesem Bild zu Mietern in einem Büroklammer-Imperium. Bostrom illustriert damit das Kontrollproblem, also die Schwierigkeit, eine KI verlässlich auf menschliche Prioritäten festzulegen.
Warum nennt Butterick KI eine „inhärent politische Technologie“?
Den theoretischen Kern borgt sich Butterick beim Politikwissenschaftler Langdon Winner und dessen Aufsatz „Do Artifacts Have Politics?“ aus dem Jahr 1980. Winners These widerspricht der gängigen Annahme, Technik sei ein neutrales Werkzeug. Manche Technologien seien vielmehr inhärent politisch, weil sie eine bestimmte gesellschaftliche Ordnung begünstigen oder sogar voraussetzen.
Winner führt den mechanischen Tomatenpflücker an, entwickelt in den fünfziger Jahren an der University of California. Die Maschine war hochproduktiv, aber teuer. Nur gut kapitalisierte Betriebe konnten sich die Anschaffung leisten, der Rest fiel aus dem Markt. Die Zahl der kalifornischen Tomatenbetriebe sank laut Winner von rund 4.000 Anfang der sechziger Jahre auf etwa 600 im Jahr 1973.
Der entscheidende Punkt liegt in der Ursache. Die politischen Folgen entstanden nicht aus einem Fehler der Technik, sondern aus ihrer Leistungsfähigkeit. Genau diese Logik überträgt Butterick auf KI: Eine Technologie verändert die Machtverhältnisse nicht trotz, sondern wegen ihrer Effizienz.
Butterick schärft diese Einsicht mit einer zweiten Brille, die er bei Karl Marx ausleiht. Marx unterscheidet, frei übertragen, zwei Sichtweisen auf jede neue Technik.
| Blickwinkel | KI als neue Technologie | KI als kapitalistisches Instrument |
|---|---|---|
| Zeithorizont | beginnt heute | reicht Jahrhunderte zurück |
| Art des Risikos | schafft neue Gefahren wie KI-gestütztes Hacking | verstärkt bestehende Trends bei Kapital und Arbeit |
| Leitfrage | Was kann KI, was frühere Technik nicht konnte? | Welche Entwicklung beschleunigt KI? |
Für Buttericks These zählt vor allem die zweite Spalte. KI wirke weniger als Erfinderin neuer Gefahren denn als Verstärkerin alter.
Wie soll KI die liberale Demokratie aushöhlen?
Butterick baut seine Kernthese in mehreren Schritten auf. Die liberale Demokratie ruht historisch auf einer Voraussetzung: Der Durchschnittsmensch besitzt wirtschaftliche Hebelkraft, als Arbeitskraft und als Eigentümer. Sinkt diese Hebelkraft, sinkt auch die politische Mitsprache.
Das primäre Produkt der KI-Branche ist nach Butterick der Ersatz von Arbeit. Bemerkenswert: Viele KI-Manager haben Massenentlassungen selbst angekündigt. Die Chefs von OpenAI, Anthropic und Tesla äußerten sich öffentlich über verschwindende Jobs, bis hin zu Prognosen von zwanzig Prozent Arbeitslosigkeit und mehr. Welche Tätigkeiten zuerst unter Druck geraten, zeigt unsere Analyse zu den KI-resistenten Berufen.
Verlieren viele Bürger ihre wirtschaftliche Relevanz, schwindet nach diesem Modell auch ihr politisches Gewicht. An die Stelle des selbstständigen Wirtschaftsakteurs tritt ein Empfänger von Zuwendungen. Butterick nennt diese Zuwendungen spöttisch goodies, also nette Annehmlichkeiten, die Big AI direkt verteilt.
Der Haken steckt im Kleingedruckten. Sobald der Konzern die soziale Absicherung übernimmt, verschiebt sich der Anspruch darauf vom öffentlichen Recht ins private Vertragsrecht. Ein Staat darf Leistungen nicht streichen, weil jemand die Regierung kritisiert. Ein Unternehmen schon. Butterick verweist auf bestehende Beispiele wie private Kreditscores oder die an den Arbeitgeber gekoppelte US-Krankenversicherung.
Wie genau diese goodies finanziert würden, lässt Butterick bewusst offen, und darin liegt eine Stärke seiner Analyse. Drei Wege seien denkbar: die direkte Versorgung durch die Konzerne nach dem Vorbild der Firmenstädte des Gilded Age, eine hohe Besteuerung mit staatlicher Umverteilung oder ein Markt, der die Preise von selbst gegen null drückt. Den ersten Weg hält der Autor für den wahrscheinlichsten, weil dieser Pfad dem Staat die Kontrolle entzieht und den Konzernen die Verteilung überlässt.
Den Endzustand dieser Entwicklung nennt der Ökonom Yanis Varoufakis Technofeudalismus. Bürger hängen dann am Tropf der Plattformen, ähnlich wie Pächter an einem Grundherrn. Big AI ersetzt in diesem Bild zugleich den Arbeitgeber und den Sozialstaat. Bei einem Konflikt zwischen Konzern und Regierung, so Buttericks Frage, auf welche Seite schlagen sich die Bürger?
Ergänzend beobachtet Butterick, dass eine Industrie ihre Stellung nicht nur durch Geschenke sichert, sondern auch durch einen geschwächten Staat. Als Beleg dient ihm die jüngere US-Politik, in der ein prominenter KI-Unternehmer zeitweise mit weitreichenden Vollmachten in der Regierung saß. Solche Konstellationen verschieben das Kräfteverhältnis zwischen Konzern und Staat sichtbar.
Butterick dreht die KI-Angst um 180 Grad: Nicht der Terminator bedroht uns, sondern die Excel-Tabelle im Personalcontrolling. Diese Verschiebung vom Kino zur Bilanz ist der eigentliche Wert seines Essays.
— Markus Seyfferth, Chefredakteur Dr. Web
Was bedeutet der „vergiftete Kelch“ für Unternehmen?
Den praktisch wichtigsten Gedanken hebt Butterick für Unternehmen auf, und der schmeckt bitter. Den vergifteten Kelch nennt er die Logik der KI-Einführung. Ein Betrieb ersetzt seine Wissensarbeiter durch KI und bekommt im ersten Moment dieselbe Leistung zu geringeren Kosten.
Dann beginnt das Problem. Lässt sich die eigene Leistung per KI automatisieren, können Wettbewerber das ebenso, und neue Anbieter ohne Altlasten erst recht. Der Output wird zur Massenware, der Preis fällt. Genau die Wissensarbeiter, die ein Unternehmen teuer findet, bilden oft seinen Wettbewerbsgraben. Wer den teuersten Mitarbeiter durch ein Modell ersetzt, sägt womöglich den Ast ab, auf dem der eigene Marktwert sitzt.
Butterick treibt den Gedanken weiter. Big AI nutze die eigenen Firmenkunden faktisch als Entwicklungsabteilung: Erst lizenziert der Konzern seine Modelle, dann übernimmt der Anbieter das bewährte Geschäft direkt. Aus der Geschichte vom Ersatz der Arbeit werde so eine Geschichte vom Ersatz ganzer Firmen. Wie ambivalent die Personalpolitik der KI-Konzerne schon heute ausfällt, zeigt das Beispiel Meta, das achttausend Bürojobs strich und zugleich Handwerker für seine Rechenzentren ausbildet.
Diese Sorge bettet Butterick in einen langfristigen Trend ein. Seit den siebziger Jahren wächst die Produktivität in den USA deutlich schneller als die Löhne, ein Befund, den unter anderem das Economic Policy Institute dokumentiert. Parallel verschiebt sich der Wert der Wirtschaft von materiellen zu immateriellen Gütern. Nach Zahlen der Weltorganisation für geistiges Eigentum übersteigen die Investitionen in immaterielle Vermögenswerte seit 2009 die in materielle.
Der Kapitaleinsatz ist gewaltig. Für 2026 beziffert die Washington Post die weltweiten KI-Investitionen auf rund 610 Milliarden Euro. Solche Summen verlangen außergewöhnliche Renditen, und genau daraus speist sich der Druck, Personal durch Modelle zu ersetzen.
An dieser Stelle ist Butterick am stärksten. Der vergiftete Kelch betrifft nämlich nicht nur abstrakte Demokratietheorie, sondern die Bilanz jedes Mittelständlers, der gerade hektisch KI einführt, um Kosten zu senken. Die Pointe lautet: Derselbe Schritt, der kurzfristig die Marge rettet, kann mittelfristig den eigenen Marktwert zertrümmern.
Wo ist Buttericks Argument angreifbar?
So zugespitzt der Essay ist, so angreifbar bleibt er an mehreren Punkten. Den größten Einwand liefert die Wirtschaftsgeschichte selbst. Bisher machte jede Automatisierungswelle Tätigkeiten überflüssig und schuf zugleich neue, die Beschäftigung verlagerte sich, statt zu verschwinden. Diese lange Linie zeichnet unsere Analyse zur Logik hinter der KI-Automatisierung nach.
Auch unter Ökonomen gilt die These der Massenarbeitslosigkeit als umstritten. Viele rechnen eher mit Verschiebungen als mit einem dauerhaften Jobkollaps. Butterick selbst zitiert solche Gegenstimmen, hält ihnen aber den Satz des Ökonomen Carl Benedikt Frey entgegen, wonach die kurze Frist ein ganzes Arbeitsleben dauern kann.
Der interessanteste Widerspruch steckt im Text selbst. Butterick hält KI ökonomisch für überschätzt und erwartet eine Pleitewelle nach dem Muster der Glasfaser-Investoren der neunziger Jahre. Sein politisches Schreckensszenario setzt aber genau den wirtschaftlichen Erfolg voraus, an dem der Autor zweifelt. Beides zugleich zu behaupten, ist intellektuell reizvoll, aber nicht ganz widerspruchsfrei.
Schließlich hinkt die Lieblingsanalogie des Essays. Butterick vergleicht eine KI-zentrierte Wirtschaft mit Petrostaaten wie Venezuela oder Norwegen, deren Reichtum an einer einzigen Ressource hängt. Öl ist allerdings knapp, an Geografie gebunden und von erprobtem Wert. Auf keine dieser Eigenschaften trifft KI bisher zu.
Was Entscheider aus dem Essay mitnehmen sollten
Für die Praxis zählt weniger die Frage, ob Butterick mit seiner Untergangsvision recht behält. Wertvoll ist seine Verschiebung der Perspektive. KI lässt sich nicht nur als neue Technik lesen, sondern als Instrument, das bestehende Trends bei Kapital und Arbeit verstärkt.
Drei Fragen lohnen sich daher für jeden Entscheider. Worin besteht der eigene Wettbewerbsgraben, sobald KI den Output verbilligt? Welche Abhängigkeiten entstehen, falls zentrale Prozesse über einen einzigen KI-Anbieter laufen? Und welche gesellschaftlichen Nebenwirkungen treffen am Ende auch das eigene Geschäftsmodell? Antworten darauf liefert kein Essay, diese Fragen gehören auf die Agenda 2026.
Glossar: 15 wichtige Fachbegriffe zu KI und Demokratie
Big AI
Big AI bezeichnet die Gruppe großer KI-Konzerne mit hoher Marktmacht, etwa OpenAI, Anthropic, Google oder Meta. Butterick nutzt den Begriff analog zu Big Oil oder Big Tech, um die Konzentration von Kapital, Modellen und Infrastruktur bei wenigen Akteuren zu betonen.
Büroklammer-Maximierer
Der Büroklammer-Maximierer ist ein Gedankenexperiment von Nick Bostrom. Eine KI mit dem simplen Ziel, Büroklammern zu produzieren, verbraucht dafür alle Ressourcen. Das Bild verdeutlicht, wie selbst harmlose Vorgaben außer Kontrolle geraten können.
Goodies-Ökonomie
Die Goodies-Ökonomie ist Buttericks spöttischer Begriff für ein System, in dem KI-Konzerne Bürgern direkt Güter und Leistungen zukommen lassen. An die Stelle staatlicher Sozialleistungen treten private Zuwendungen, abhängig vom Wohlwollen des Konzerns.
Illiberale Demokratie
Eine illiberale Demokratie wahrt äußere Formen wie Wahlen und Gewaltenteilung, höhlt aber individuelle Rechte und echten Machtwechsel aus. Politikwissenschaftler beschreiben damit Staaten, die sich von der liberalen Demokratie wegbewegen.
Immaterielle Vermögenswerte
Immaterielle Vermögenswerte sind Werte ohne physische Substanz, etwa Patente, Marken oder Wissen. Laut Weltorganisation für geistiges Eigentum übersteigen die Investitionen in solche Güter seit 2009 die in materielle Anlagen.
Inhärent politische Technologie
Eine inhärent politische Technologie begünstigt nach Langdon Winner eine bestimmte gesellschaftliche Ordnung oder setzt sie voraus. Politische Wirkung entsteht nicht durch Missbrauch, sondern durch die Funktionsweise der Technik selbst.
Kontrollproblem
Das Kontrollproblem beschreibt die Schwierigkeit, eine KI verlässlich auf menschliche Ziele festzulegen. Schon einfache Vorgaben können unerwünschte Nebenfolgen erzeugen, sobald ein System konsequent optimiert.
Liberale Demokratie
Die liberale Demokratie verbindet Mehrheitsentscheidung mit individuellen Rechten, begrenzter Regierungsmacht und Gewaltenteilung. Butterick sieht diese Ordnung durch eine fortschreitende Kapitalkonzentration gefährdet.
Petrostaat
Ein Petrostaat bezieht seinen Wohlstand überwiegend aus Öl oder Gas. Solche Staaten gelten als anfällig für den Ressourcenfluch, weil Macht und Einkommen sich um eine einzige Ressource gruppieren.
Produktivitäts-Lohn-Schere
Die Produktivitäts-Lohn-Schere bezeichnet das Auseinanderlaufen von Produktivität und Löhnen. In den USA wächst die Produktivität seit den siebziger Jahren laut Economic Policy Institute weit schneller als die Vergütung der Beschäftigten.
Ressourcenfluch
Der Ressourcenfluch beschreibt das Paradox, dass ressourcenreiche Länder oft schwächer wachsen und autoritärer regiert werden. Konzentrierter Reichtum zieht Kapital aus anderen Sektoren ab und schwächt demokratische Kontrolle.
Skynet-Irrtum
Der Skynet-Irrtum ist Buttericks Bezeichnung für die Neigung, KI-Risiken durch Science-Fiction-Bilder zu erklären. Die spektakulären Kinoszenarien lenken nach seiner Ansicht von den langweiligen, aber wahrscheinlicheren ökonomischen Gefahren ab.
Souveräner Staatsfonds
Ein souveräner Staatsfonds legt staatliche Überschüsse für künftige Generationen an. Norwegen speist seinen Fonds aus Öleinnahmen und verwaltet über 1,7 Billionen Euro, gilt aber trotzdem nicht als vollständig gegen den Ressourcenfluch gefeit.
Technofeudalismus
Technofeudalismus ist ein Begriff des Ökonomen Yanis Varoufakis. Der Begriff beschreibt eine Ordnung, in der Plattformkonzerne wie einstige Grundherren agieren und Nutzer wirtschaftlich von ihnen abhängig werden.
Vergifteter Kelch
Der vergiftete Kelch ist Buttericks Bild für die KI-Einführung in Unternehmen. Kurzfristig sinken die Kosten, mittelfristig wird der eigene Output kopierbar und der Wettbewerbsvorteil verschwindet.
FAQ: KI und Demokratie
Wie bedrohen sich KI und Demokratie laut Butterick?
Butterick sieht KI als kapitalistisches Instrument, das Kapital konzentriert und Arbeit ersetzt. Sinkt die wirtschaftliche Bedeutung der Bürger, sinkt nach seiner These auch ihr politisches Gewicht, und die liberale Demokratie verliert an Substanz.
Behauptet Butterick, dass KI die Menschheit auslöscht?
Nein. Butterick hält das buchstäbliche Auslöschungsszenario für unwahrscheinlich. Sein Begriff „extinction-level“ zielt auf das Ende einer demokratischen Lebensweise, nicht auf das Ende der Spezies.
Warum betrifft der Essay auch deutsche Unternehmen?
Buttericks vergifteter Kelch gilt branchenübergreifend. Sobald ein Betrieb seine Wissensarbeit durch KI ersetzt, wird der eigene Output leichter kopierbar. Diese Logik trifft den deutschen Mittelstand genauso wie US-Konzerne.
Was ist die Goodies-Ökonomie einfach erklärt?
Die Goodies-Ökonomie beschreibt einen Zustand, in dem KI-Konzerne den Bürgern Güter und Leistungen direkt bereitstellen. Damit übernehmen private Unternehmen Aufgaben des Sozialstaats und binden die Menschen politisch an sich.
Wie steht Butterick selbst zur Wirtschaftlichkeit von KI?
Butterick ist skeptisch und erwartet, dass viele KI-Investitionen scheitern, ähnlich der Glasfaser-Blase der neunziger Jahre. Diese Skepsis steht in Spannung zu seinem politischen Schreckensszenario.
Welche Gegenargumente nennen Kritiker?
Die Wirtschaftsgeschichte zeigt, dass frühere Automatisierungswellen neue Jobs schufen. Viele Ökonomen erwarten Verschiebungen statt Massenarbeitslosigkeit. Zudem hinkt der Vergleich mit Petrostaaten, weil Öl knapp und KI im Überfluss verfügbar ist.
Quellen
Matthew Butterick | „Extinction-level capitalism“ | https://matthewbutterick.com/extinction-level-capitalism.html | besucht am 19.06.2026
Langdon Winner | „Do Artifacts Have Politics?“ (1980) | https://faculty.cc.gatech.edu/~beki/cs4001/Winner.pdf | besucht am 19.06.2026
World Intellectual Property Organization | World Intangible Investment Highlights 2025 | https://www.wipo.int/web-publications/world-intangible-investment-highlights-2025/en/ | besucht am 19.06.2026
Economic Policy Institute | Charting Wage Stagnation | https://www.epi.org/publication/charting-wage-stagnation/ | besucht am 19.06.2026
The Washington Post | AI spending spree (07.02.2026) | https://www.washingtonpost.com/technology/2026/02/07/ai-spending-economy-shortages/ | besucht am 19.06.2026
