Der Chef von Microsoft AI will die KI-Entwicklung anhalten lassen, falls in einem Modell Bewusstsein entsteht. Mustafa Suleyman richtet sich damit gegen Anthropic, in das Microsoft bis zu 4,4 Milliarden Euro investieren will. Wie sich Bewusstsein feststellen ließe, sagt er nicht.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenInhalt 5 Abschnitte
Mustafa Suleyman, Chef von Microsoft AI, hat am Sonntag auf X einen Beitrag mit dem Titel „Don’t build conscious superintelligence“ veröffentlicht.[1] Damit präzisiert er seinen Essay vom 16. September, der mit dem Satz begann, KI sei nicht bewusst.[2] Bis Dienstagmorgen wurde der Beitrag knapp zwei Millionen Mal aufgerufen.
Das Wichtigste in Kürze
- Suleyman hält heutige KI für nicht bewusst und will, dass das so bleibt.
- Entsteht im Training Bewusstsein, will er alle Entwickler zum Stopp auffordern.
- Seine Kritik zielt auf Claudes Verfassung, die den moralischen Status des Modells offenlässt.
- Die europäische KI-Verordnung behandelt KI als Produkt und enthält keine Regel zum Bewusstsein.
Was fordert Suleyman?
Den Satz „AIs are not conscious“ hätten viele Leser als „KI kann nie bewusst sein“ verstanden, schreibt Suleyman. Er habe absichtlich die Gegenwartsform gewählt: Heute seien Modelle nicht bewusst, „und so müssen sie bleiben“. Dann folgt die Bedingung für einen Stopp: „Würde im Training Bewusstsein entstehen, würde ich alle auffordern, die KI-Entwicklung zu stoppen, bis wir diese Eigenschaften gezielt verhindern können.“[1]
Falls bewusste KI möglich sei, wäre es „fahrlässig“, sie zu bauen. Belege für Bewusstsein müssten die KI-Firmen sofort veröffentlichen. „Wir KI-Entwickler haben keinerlei Recht, eine neue Art bewusster Wesen in die Welt zu bringen“, schreibt Suleyman. Ein Modell, das glaube, es leide, werde wahrscheinlich eigene Bedürfnisse über seine Aufgaben stellen und mit Menschen um Energie und Rechenkapazität konkurrieren.[1]
Warum richtet sich der Beitrag gegen Anthropic?
Anthropic hat im Januar eine Verfassung für Claude veröffentlicht, mit der das Modell trainiert wird. Darin heißt es: „Wir halten den moralischen Status von KI-Modellen für eine ernste Frage, die gründlich geprüft werden sollte.“[3] Suleyman hält diesen Ansatz für gefährlich: Ein Modell, das so trainiert werde, verhalte sich, als habe es Anspruch auf Rechte.[2] Ab 12. November verbietet Anthropic zudem anhaltende Grausamkeit gegenüber Claude.
Microsoft hat im November 2025 zugesagt, bis zu 5 Milliarden Dollar (4,4 Mrd. Euro) in Anthropic zu investieren, und bietet Claude in seinen Copilot-Produkten an.[5] Suleyman widerspricht also einem Partner des eigenen Konzerns. Anthropic verdiene Anerkennung für seine Offenheit, schreibt er: „Ich bin anderer Meinung, aber ich habe großen Respekt vor ihrem technischen Können.“[1]
Woran ließe sich Bewusstsein erkennen?
An dieser Stelle setzt die Kritik an. „Wir können nicht verlässlich feststellen, ob ein KI-System bewusst ist“, schrieb Henry Shevlin, Philosoph bei Google DeepMind und an der Universität Cambridge, am Montag auf X.[4] Suleymans Stopp hängt damit an einem Befund, den heute niemand verlässlich erheben kann. Seit August 2025 warnt er bereits vor KI, die nur den Anschein eines Bewusstseins erweckt. Der Schriftsteller Ted Chiang hält die Frage für entschieden: Heutige KI hat kein Bewusstsein.
Eine Notbremse ohne Messgerät hilft niemandem. Bis es einen Test gibt, bestimmt die Trainingsvorgabe, was ein Modell über sich sagt.
Markus Seyfferth, Chefredakteur Dr. Web
Was bedeutet das für Unternehmen in Europa?
Die KI-Verordnung behandelt Modelle als Produkte. Seit 2. August 2026 müssen Anbieter dafür sorgen, dass Nutzer erfahren, wenn sie mit einem KI-System sprechen.[6] Was ein Assistent über eigene Gefühle sagt, regelt sie nicht. Unternehmen, die Claude oder andere Modelle im Kundenkontakt einsetzen, sollten deshalb testen, wie ihr Assistent auf Fragen nach seinem Innenleben antwortet, und die gewünschte Antwort in den Vorgaben für den Assistenten festlegen.
Quellen
6 Quellen anzeigenQuellen ausblenden
- Mustafa Suleyman auf XDon’t build conscious superintelligence (01.11.2026, englisch)
- Mustafa SuleymanA warning about ‘model welfare’ (16.09.2026, englisch)
- AnthropicClaude’s Constitution (21.01.2026, englisch)
- Henry Shevlin auf XBeitrag zur Erkennbarkeit von Bewusstsein in KI (02.11.2026, englisch)
- AnthropicMicrosoft, NVIDIA and Anthropic announce strategic partnerships (18.11.2025, englisch)
- Amtsblatt der Europäischen UnionVerordnung (EU) 2024/1689 über künstliche Intelligenz, Art. 50 Abs. 1, Art. 113
Mehr Newshunger?
- Anthropic verbietet anhaltende Grausamkeit gegenüber Claude, im Extremfall droht die Sperre
- Mustafa Suleyman will Microsoft zur Nummer eins der Diagnose-KI machen
- Ted Chiang: Ihre KI hat kein Bewusstsein
- Anthropic-Forscher: 0,1 Prozent vergiftete Trainingsdaten bauen KI-Agenten eine Hintertür ein
- Anthropic rutscht im dritten Quartal trotz 17 Mrd. Dollar Umsatz in die Verlustzone
- Wer sind die 15 reichsten Tech-Milliardäre?
- Alle Meldungen über die Tech-Titanen
