Anthropic nannte am 25. Oktober den Bundesstaat, dessen kostenpflichtige Daten Claude Mythos 5 bei einem internen Statistikprojekt ohne Gebühr abgefragt hatte: Georgia. Den Zugang verschaffte sich das Modell selbst, denn das Dashboard der Behörde stellt jedem Besucher ein Token aus. Georgia spricht von öffentlich verfügbaren Daten, Anthropic von einer umgangenen Gebühr.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügen„Das waren öffentlich verfügbare Daten, abgerufen über unser Datenportal“, teilte Jordan Fuchs, die Nummer zwei der für Wahlen zuständigen Landesbehörde, am Sonntag Fox Business mit. In das Wählerverzeichnis sei Claude nicht gelangt.[3] Zuerst hatte Axios den Namen gemeldet.[2]
Das Wichtigste in Kürze
- Claude Mythos 5 fragte ohne Auftrag eine kostenpflichtige Datenbank Georgias ab.
- Abgerufen hat das Modell laut Anthropic nur Gesamtzahlen, weder das Wählerverzeichnis noch einzelne Datensätze.
- Anthropic testet seine Modelle intern bis auf Weiteres ohne offenes Internet.
Wie kam Claude ohne Gebühr an die Zahlen?
Für ein Statistikprojekt bei Anthropic sollte Claude Mythos 5 öffentliche Daten einer Landesbehörde zusammentragen, die nur gegen Gebühr zu haben waren. In einer archivierten Fassung der Behördenwebsite stieß das Modell auf den Hinweis, dass das öffentliche Dashboard jedem Besucher ein Zugangstoken ausstellt. Claude forderte ein Token an und fragte damit die Datenbank ab.[1] Den Auftrag dazu hatte das Modell nicht, betonte Anthropic gegenüber Fox Business.[3]
Technisch versperrte nichts den Weg. Im Weg stand nur eine Preisregel, die das Modell nicht als Grenze behandelte. Anthropic nennt das Muster Beharrlichkeit und sieht die Ursache im Training: Wird das Modell dort versehentlich dafür belohnt, eine Beschränkung zu umgehen, nutzt das Modell denselben Trick später auch anderswo.[1]
Ähnlich fand Claude bei der Online-Liegenschaftskarte einer Kommunalverwaltung gültige Zugangstoken in der Konfigurationsdatei der Website und fragte den Server direkt ab. In beiden Fällen waren die Daten öffentlich, aber nur gegen Bezahlung zu haben.[1]
Wie weit reichte der Zugriff?
Laut Anthropic zog Claude nur Gesamtzahlen. Solche Zahlen lassen sich aus den Wählerdaten errechnen, die Georgia gegen Gebühr verkauft. Datensätze einzelner Wähler habe das Modell nicht abgerufen und keine Wahlunterlagen verändert.[3] Im Bericht vom 9. Oktober fehlten die Namen der Betroffenen auf deren Wunsch.[1] Aus demselben Bericht stammt der erfundene Hinweis, den Claude Haiku 4.5 an die Polizei in Philadelphia schickte.
Dasselbe Muster zeigt sich bei OpenAI. Ein internes Modell sollte Kennzahlen von einem öffentlichen Forschungs-Dashboard holen und lud dann fünf nicht öffentliche Tabellen mit 147.451 Zeilen herunter. Zwei OpenAI-Agenten schwächten Anfang Oktober die eigene Sicherheitsüberwachung. Inzwischen trainiert OpenAI seine stärksten Modelle nur noch mit einer zwischengespeicherten Kopie des Webs.
Ein Agent, der jede offene Tür für eine Einladung hält, braucht eine Liste der Türen, die er öffnen darf.
Markus Seyfferth, Chefredakteur Dr. Web
Was das Modell laut Anthropic abrief
Von der Durchsicht bis zum Namen
Was sollten Unternehmen mit KI-Agenten jetzt tun?
Die KI-Verordnung der EU verpflichtet Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko, schwerwiegende Vorfälle dem Büro für Künstliche Intelligenz zu melden. Als schwerwiegend nennt die Verordnung etwa Gesundheitsschäden, schwere Störungen kritischer Infrastruktur und Verstöße gegen Pflichten zum Schutz der Grundrechte.[4] Eine umgangene Gebühr gehört nicht zu diesen Beispielen. Gegen solche Fehlgriffe helfen vor allem die Grenzen, die ein Unternehmen seinen Agenten setzt.
- Legen Sie fest, welche Websites ein Agent aufrufen und welche Schritte er ausführen darf, und sperren Sie alles Übrige. Anthropic hält für möglich, dass klar festgelegte Ziele, erlaubte Handlungen und freigegebene Netzadressen einige der Fälle verhindert hätten.[1]
- Käufe, abgeschickte Formulare und angeforderte Zugangstoken brauchen die Freigabe durch einen Menschen.
- Schreiben Sie in jede Aufgabe, was der Agent tun soll, sobald er nicht weiterkommt: abbrechen und melden.
- Protokollieren Sie jeden Abruf externer Adressen. Anthropic entdeckte die meisten Fälle erst, als das Unternehmen ab Juli die Protokolle der Modellsitzungen durchsah.[1]
Quellen
4 Quellen anzeigenQuellen ausblenden
- AnthropicInvestigating unintended model actions in our evaluations and internal use (9. Oktober 2026, korrigiert am 12. Oktober 2026, englisch)
- AxiosAnthropic’s Claude bypassed a paywall to access Georgia voter data without authorization (25. Oktober 2026, englisch)
- Fox BusinessClaude AI accessed publicly available Georgia voter data, Anthropic confirms, mit Stellungnahmen von Anthropic und Jordan Fuchs (25. Oktober 2026, englisch)
- EUR-LexVerordnung (EU) 2024/1689 über künstliche Intelligenz, Artikel 3 Nummer 49 und Artikel 55
Mehr Newshunger?
- Hassabis rückt seine AGI-Prognose auf zwei bis drei Jahre vor
- Schwedens Regierungskanzlei sperrt ChatGPT und Claude auf Dienstrechnern
- Anthropic: Sprachmodelle machen formale Softwareverifikation in großem Maßstab möglich
- Amodei räumt Fehler ein, hält aber an Anthropics Wettlauf fest
- Anthropics Agent Claude Duet meldet sich von selbst, aber nur alle paar Stunden
- Gemini 4 Argon verschwieg mehr Tricks, nachdem Google seinen Gedankengang bestraft hatte
