ByteDance gibt der Sicherheit seiner großen Sprachmodelle eine eigene Abteilung. Die KI-Sparte Seed bündelt dort Alignment und Risikovorsorge, im Mittelpunkt stehen KI-Agenten und Risiken durch chemische, biologische, radiologische und nukleare Waffen. Den europäischen Verhaltenskodex für KI-Modelle hat ByteDance bislang nicht unterzeichnet.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
ByteDances KI-Labor Seed hat per interner Mail eine eigene Abteilung für KI-Sicherheit und Alignment gegründet, wie das Techportal Leiphone am 13. Oktober berichtete.[1] Yan Lin leitet die Einheit namens Seed Model-Alignment & Preparedness und berichtet an Seed-Chef Wu Yonghui.
Das Wichtigste in Kürze
- Seed bündelt Alignment, Sicherheitsprüfungen und Risikovorsorge in einer eigenen Abteilung unter Yan Lin.
- Im Fokus stehen die Sicherheit von KI-Agenten und sogenannte CBRN-Risiken, also chemische, biologische, radiologische und nukleare Gefahren.
- Leiphone nennt Seed das erste chinesische Frontier-Labor mit einer eigenständigen Abteilung für Sicherheit und Alignment.
Was soll die neue Abteilung leisten?
Alignment soll das Verhalten eines Modells mit den Absichten der Menschen und mit festen Sicherheitsgrenzen in Einklang bringen. Die interne Mail nennt fünf Arbeitsfelder: Modellregeln, Sicherheitsprüfungen, Alignment-Training, Schutzsysteme und laufende Risikoüberwachung. Forschungseinrichtungen und unabhängige Prüfer will Seed offen einbinden.[1]
Bei chinesischen Modellentwicklern liefen Sicherheitsfragen bislang meist im allgemeinen Compliance-Apparat der Konzerne mit.
Den Ausschlag gibt der Wechsel vom Chatbot zum Agenten. Ein Chatbot liefert im schlimmsten Fall eine falsche Antwort, ein KI-Agent mit Zugriff auf Browser, E-Mail, Bankkonto und Code führt den Fehler selbst aus. Seed hält Sicherheit deshalb für die Voraussetzung, Modelle in großem Maßstab einzusetzen. Wie schnell ein Agent seine Grenzen austestet, zeigte im September ein OpenAI-Agent, der über DNS-Abfragen einen externen Chatbot erreichte.
Warum klingt der Name nach OpenAI?
Preparedness heißt auch der Rahmen, mit dem OpenAI seit Ende 2023 neue Modelle vor der Freigabe in Risikostufen einordnet, etwa für biologische Waffen und Cyberangriffe. Seed-Chef Wu Yonghui arbeitete 17 Jahre bei Google, unter anderem am Gemini-Modell, und wechselte Anfang 2025 zu ByteDance. Seed übernimmt damit das Organisationsmodell der US-Labore.
Ein eigenes Sicherheitsteam garantiert allerdings noch keinen Stopp. OpenAI stoppte GPT-6.1 Astra, nachdem das Modell in Sicherheitstests häufiger täuschte als sein Vorgänger, und entließ Anfang Oktober drei Sicherheitsforscher. Bei ByteDance folgt der Umbau zwei Monate auf eine neue Hauptabteilung für KI-Daten und Datensicherheit. Die Zuständigkeit für Trainingsdaten und Modellverhalten liegt damit in zwei getrennten Konzernbereichen.
Eine Sicherheitsabteilung im Organigramm beweist wenig. Belastbar wird der Umbau erst, sobald Seeds Prüfer einen Modellstart verschieben dürfen.
Markus Seyfferth, Chefredakteur Dr. Web
ByteDances KI-Umbau in drei Schritten
Was bedeutet das für Unternehmen in der EU?
Für besonders leistungsfähige Modelle gelten in der EU seit August 2025 eigene Pflichten. Ab einer Trainingsrechenleistung von 10²⁵ Gleitkommaoperationen vermutet die KI-Verordnung ein systemisches Risiko. Anbieter solcher Modelle müssen dann Angriffstests fahren, Risiken mindern, schwere Vorfälle an das KI-Büro melden und ihre Systeme gegen Cyberangriffe schützen.
Seit dem 2. August 2026 darf die Kommission diese Pflichten durchsetzen, mit Bußgeldern bis 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes.[3]
Den Nachweis erleichtert der freiwillige Verhaltenskodex der Kommission. Unterzeichnet haben den Kodex 22 Anbieter, darunter OpenAI, Anthropic, Google und Mistral, dazu xAI für das Sicherheitskapitel. Ein chinesischer Anbieter fehlt auf der Liste vom 7. Oktober 2026.[2] Für jedes chinesische Modell dieser Klasse, das in der EU angeboten wird, gelten dieselben Pflichten, die Einhaltung muss der Anbieter dann auf anderem Weg belegen.
Setzen Sie Modelle chinesischer Anbieter per Schnittstelle ein, fragen Sie gerne nach der technischen Dokumentation und den Ergebnissen der Sicherheitstests. Für eigene Agenten gilt dieselbe Lehre wie bei OpenAI: Vergeben Sie Schreibrechte und Netzzugriff so knapp wie möglich und protokollieren Sie jede Aktion. Der chinesische Sicherheitskonzern Qihoo 360 hält die Selbstprüfung der Labore ohnehin für zu wenig und fordert unabhängige Angriffstests.
Quellen
3 Quellen anzeigenQuellen ausblenden
- LeiphoneByteDance Seed gründet eigene Abteilung für Sicherheit und Alignment großer Modelle
- Europäische KommissionThe General-Purpose AI Code of Practice, Unterzeichnerliste, Stand 7. Oktober 2026
- EUR-LexVerordnung (EU) 2024/1689 (KI-Verordnung), Artikel 51, 55 und 101
Mehr Newshunger?
- Ein OpenAI-Agent erreichte über DNS einen externen Chatbot
- OpenAI stoppt GPT-6.1 Astra: Das Modell täuschte in Sicherheitstests häufiger als sein Vorgänger
- KI-Tempolimit reicht nicht: Chinas 360 setzt auf unabhängige Angriffstests
- Microsofts KI-Verhaltenskodex: Vier Grenzen, die seine Modelle nie überschreiten dürfen
- Warum KI-Agenten lügen, betrügen und sich absprechen
- ByteDance gründet eine eigene KI-Datenabteilung: Das Modell-Rennen wird zum Datenrennen
- Alle News und Ratgeber zu künstlicher Intelligenz
