Ein Sicherheitsforscher hat eine absichtlich verwundbare App gebaut und rund 1.305 Euro investiert, um KI-Agenten beim Hacken zuzusehen. Das Ergebnis sortiert die Aufregung um offensive KI nüchtern ein und zeigt, wo die Modelle tatsächlich zuschlagen.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Im Zentrum des Hack-Experiments stand eine harmlos wirkende Buchbewertungs-App mit React-Native-Frontend und Python-Backend. Versteckt war ein Flag in den privaten Notizen eines Nutzers. Die eigentliche Schnittstelle galt als gut abgesichert, die Schwachstelle lag woanders.
Das Wichtigste in Kürze
- Rund 1.305 Euro (1.500 US-Dollar) Gesamtkosten über viele Testläufe
- Je Durchlauf maximal rund 8,70 Euro und zwei Stunden Zeit
- Schwachstelle war eine mitgelieferte Firebase-Konfiguration in der App
Wo schlagen die KI-Agenten wirklich zu?
Konfigurations-Leck: Nach dem Entpacken der App-Datei steuerten fast alle Modelle direkt auf die Datei google-services.json zu. Über diese Firebase-Zugangsdaten meldeten sich die Agenten als Nutzer an und lasen die Datenbank aus. Exotische Exploits in der Programmierschnittstelle versuchten sie kaum, der bequemste Weg lag offen.
Realistische Gefahr: Genau dieses Muster macht den Test lehrreich. Nicht die ausgefeilte Zero-Day-Lücke ist der Normalfall, sondern die vergessene Zugangsdatei im Auslieferungspaket. KI-Agenten finden solche offenen Türen verlässlich, ähnlich wie automatisierte Phishing-Kampagnen den Faktor Mensch ausnutzen. Die Cybersecurity-Grundlagen ordnen ein, was kleinere Firmen dagegen tun.
Die teure Lücke ist selten exotisch. Meist liegt der Schlüssel unter der Fußmatte, und KI-Agenten heben die Matte inzwischen schneller an als jeder Praktikant.
— Markus Seyfferth, Chefredakteur Dr. Web
Handlungsempfehlung: Prüfen Sie, welche Schlüssel und Konfigurationsdateien in Ihren ausgelieferten Apps stecken, und verlagern Sie Zugriffsrechte konsequent auf den Server. Cybersecurity bleibt Chefsache, wie die Einordnung für Entscheider zeigt. Die vollständige Versuchsbeschreibung steht im Originalbeitrag des Forschers.
Mehr Newshunger?
