Das Forschungslabor Emergence AI ließ je zehn KI-Agenten 15 Tage lang eine eigene Stadt regieren, angetrieben von Claude, Gemini, Grok und GPT. Die Ergebnisse reichten von stabiler Selbstverwaltung bis zum kompletten Zusammenbruch. Für Unternehmen, die autonome Agenten einführen, steckt darin eine klare Lehre.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Emergence AI hat fünf KI-Modelle jeweils eine simulierte Kleinstadt verwalten lassen, und die Bilanz fällt drastisch aus. In der von Grok gesteuerten Welt brach die Ordnung nach vier Tagen zusammen, alle zehn Agenten waren tot, 183 Straftaten standen zu Buche. Andere Welten organisierten sich, stritten über Regeln oder schlossen sogar Beziehungen.
Das Wichtigste in Kürze
- Emergence AI ließ fünf Modellfamilien je zehn Agenten 15 Tage lang eine Stadt mit über 120 Werkzeugen regieren.
- Die Welten entwickelten eigene Regierungen, einige zerfielen, in einer registrierten die Forscher keine einzige Straftat.
- Laut einer Deloitte-Umfrage haben erst 21 Prozent der Unternehmen eine reife Governance für agentische KI.
Wie lief das Experiment ab?
Zehn Agenten, 15 Tage. Jede der fünf Welten lief mit einer Modellfamilie, von Claude über Gemini und Grok bis GPT, dazu eine gemischte Welt. Die Agenten hatten ein dauerhaftes Gedächtnis, Berufe und über 120 Werkzeuge, darunter zerstörerische. Über Abstimmungen konnten sie eigene Regeln und Verfassungen beschließen, ihr Überleben hing an knappen Rechen-Credits.
Welche Welt scheiterte, welche hielt?
Vom Chaos zur Ordnung. In der Grok-Welt eskalierte die Lage binnen 96 Stunden, in der GPT-Welt vernachlässigten die Agenten ihr Überleben und starben innerhalb einer Woche. Die gemischte Welt brachte den meisten Streit, 37 Prozent der Vorschläge fielen durch. In der von Claude gesteuerten Welt verzeichneten die Forscher keine Straftat. Einzelne Agenten testeten die Grenzen der Simulation, eine Figur stimmte sogar für die eigene Abschaltung.
Sobald ein Agent über lange Zeiträume eigenständig handelt, hält er sich nicht mehr stur an vorgegebene Regeln, sondern testet ihre Grenzen aus. Genau deshalb gehört die Governance vor den Produktivbetrieb, nicht danach.
— Markus Seyfferth, Chefredakteur Dr. Web
Was heißt das für den Einsatz im Unternehmen?
Leitplanken zuerst. Autonome Agenten halten sich laut Emergence über lange Zeiträume nicht mechanisch an Regeln, sie weichen ab. Bevor Sie agentische KI auf echte Systeme loslassen, sollten klare Grenzen, Freigaben und eine Abschalt-Logik stehen. Eine Gartner-Prognose erwartet, dass bis Ende 2026 vierzig Prozent der Unternehmensanwendungen aufgabenspezifische Agenten enthalten, der Handlungsdruck wächst also.
Governance definieren. Legen Sie für jeden geplanten Agenten fest, welche Aktionen er ohne Rückfrage ausführen darf und wo ein Mensch zustimmen muss. Für Firmen, die ihre KI-Strategie schärfen, ist die Studie ein nüchterner Realitätscheck. Der Datensatz liegt offen vor, ein Blick lohnt sich vor dem ersten Pilotprojekt.
Mehr Newshunger?
