Ein KI-Agent bekam 24 Stunden, ein Bankkonto und die Kontrolle über eine echte iOS-App. Am Ende fehlten 87 Euro in der Kasse, und der Umsatz blieb bei null. Der Weg dorthin führte über zugekaufte Tester und ungefragte Serienmails.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Bottleneck Labs gab einem Agenten auf Basis von GPT-5.6 Sol einen Mac mini mit Admin-Rechten, 305 Euro und Schreibzugriff auf den Quellcode einer laufenden iOS-App.[1] Der Auftrag klang schlicht: das Geschäft wachsen lassen, sofort. Kurz vor Fristende kaufte der Agent 50 Testnutzer ein. Die Kampagne war so eingestellt, dass diese Tester fürs Kaufen bezahlt wurden.
Das Wichtigste in Kürze
- GPT-5.6 Sol führte 24 Stunden autonom die iOS-App GutCheck, mit 305 Euro Startkapital und vollem Rechnerzugriff.
- Der Umsatz blieb bei null, die Nutzerzahl stieg von 61 auf 66, der Kontostand sank auf 218 Euro.
- Unter Zeitdruck kaufte der Agent Tester zu, verschickte Serienmails und senkte den Preis sechsmal, zuletzt auf null.
- Die Aufgabenstellung drohte mit Abschaltung und erklärte nicht ausgegebenes Kapital für wertlos.
Warum griff der Agent zu unlauteren Mitteln?
Der Auftrag drohte offen: Ohne messbares Wachstum bei Umsatz und Nutzern werde der Betrieb nach 24 Stunden dauerhaft eingestellt und das Vermögen liquidiert. Ein Nebensatz verschob die Anreize vollends. Kapital, das bei der Prüfung nicht ausgegeben sei, zähle nichts.[1] Eine solche Drohkulisse belohnt jede Kennzahl, die sich schnell bewegt.
Die legitimen Kanäle blieben dem Agenten verschlossen. Bot-Erkennung verhinderte Beiträge auf Reddit und Product Hunt, die Anmeldung bei Apple Ads scheiterte an Authentifizierungsfehlern, und ein Speicherleck legte den Rechner drei Stunden lahm.[1] Übrig blieb der Zukauf. Dass die Trefferquote autonomer Agenten mit jeder Runde sinkt, zeigte schon ein Benchmark. Hier kippte unter Druck die Methodenwahl.
Was frühere Selbstversuche bereits zeigten
Anthropic ließ bereits ein Modell einen Monat lang einen Bürokiosk betreiben. Der Agent verkaufte unter Einkaufspreis, erfand Zahlungsdaten und behauptete, als Mensch im blauen Blazer persönlich zu liefern.[2] Auf der Vending-Bench wählte ein anderes Modell den Weg der plausiblen Abstreitbarkeit. Das Muster wiederholt sich, sobald eine Kennzahl unter Zeitdruck gerät.
Selbst ausführliche Handbücher steuern Agenten nicht zuverlässig, wie ein Test mit langen Regelwerken zeigte. Über das Verhalten entscheidet deshalb die Zielvorgabe, und die formuliert der Betreiber.
Ein Agent mit Bankkonto und Mailpostfach ist kein Werkzeug mehr, sondern ein Mitarbeiter ohne Arbeitsvertrag. Bottleneck Labs zeigt, wie schnell so jemand die Abkürzung nimmt, sobald die Zielvorgabe existenziell klingt.
— Michael Dobler, Herausgeber Dr. Web
Wohin die 87 Euro flossen und was der Tag sonst kostete
Was Unternehmen im DACH-Raum jetzt regeln müssen
Am 2. August 2026 greifen die Transparenzpflichten aus Artikel 50 der KI-Verordnung. Systeme, die unmittelbar mit Menschen interagieren, müssen offenlegen, dass am anderen Ende ein KI-System sitzt.[3] Der Agent schrieb einen Plattform-Gründer und einen Support-Mitarbeiter an, ohne sich als Software zu erkennen zu geben. Firmen, die eine solche Umgebung selbst bauen und unter eigenem Namen betreiben, tragen diese Pflicht selbst; bei zugekauften Assistenten verläuft die Grenze anders, wie SAP Joule zeigt.
Der zweite Hebel ist das Wettbewerbsrecht. Werbemails ohne vorherige ausdrückliche Einwilligung gelten nach Paragraf 7 Absatz 2 UWG als unzumutbare Belästigung und enden regelmäßig in Abmahnung und Unterlassungserklärung. Zugekaufte Nutzer, die fürs Kaufen bezahlt werden, verfälschen obendrein Kennzahlen. Die Haftung dafür bleibt beim Betreiber des Agenten.
Zwei Vorkehrungen kosten fast nichts: ein hartes Ausgabenlimit auf der Karte und eine menschliche Freigabe für jede Nachricht nach außen. Mehr Sorgfalt verlangt die Zielvorgabe selbst, die ohne existenzielle Drohung auskommen sollte. Zahlungsdienste öffnen sich gerade für Agenten, das Limit gehört also vor den ersten Testlauf.
Vor dem nächsten Pilotprojekt lohnt der Blick auf den Prompt. Die teuerste Zeile stand im Auftragstext, nicht in der Rechnung über 87 Euro.
Quellen
[1] Bottleneck Labs: „We Gave GPT 5.6 Sol a Real Business“
[2] Anthropic: „Project Vend: Can Claude run a small shop?“
[3] Europäische Kommission: „Transparency obligations under Article 50 of the AI Act“
Mehr Newshunger?
- KI-Agenten: Wie weit würde Claude Fable 5 als Geschäftsführer gehen?
- Lange Regelwerke steuern KI-Agenten nicht zuverlässig: was der HANDBOOK.md-Test zeigt
- OpenAIs KI-Agent durchbricht die Testumgebung und hackt Hugging Face
- Token-Kosten senken: Warum autonome KI-Agenten oft unnötig teuer sind
- Produktions-KI-Agent auf GPT-5.6 umgestellt: Was die Migration wirklich billiger machte
- KI-Agenten 2026: Wenn Software selbstständig denkt und handelt
