Was steht in Microsofts KI-Verhaltenskodex?

Microsoft legt seinen KI-Modellen erstmals einen schriftlichen Verhaltenskodex an. Vier absolute Grenzen sollen die Systeme im Zaum halten, allen voran das Verbot, eine Abschaltung durch den Menschen zu verweigern. Der Entwurf geht für sechs Wochen in die öffentliche Konsultation, verbindlich bleibt in Europa aber der AI Act.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

Der KI-Verhaltenskodex trägt den Namen „Humanist AI Code of Conduct“ und richtet sich an Microsofts eigene MAI-Modellfamilie. Statt vager Bekenntnisse listet das Regelwerk konkrete Dinge auf, die ein Modell niemals tun soll, und benennt, wem es zu gehorchen hat: dem Menschen.^[1] Noch trainiert Microsoft keine Modelle danach, der Konzern sammelt bis dahin öffentliche Rückmeldungen.

Das Wichtigste in Kürze

Microsoft veröffentlicht einen Verhaltenskodex für seine eigenen MAI-Modelle und stellt ihn für sechs Wochen zur öffentlichen Konsultation.
Vier absolute Grenzen stehen im Zentrum: Die Modelle dürfen eine Abschaltung nie verweigern, ihre Reichweite nicht eigenmächtig ausweiten, keine ungefragten Ziele übernehmen und ihre Gedankengänge nicht verbergen.
Die Regeln adressieren bekannte Risiken der KI-Sicherheitsforschung, von der verweigerten Abschaltung bis zur gezielten Täuschung von Prüfern.
Rechtlich verbindlich bleibt für Unternehmen in der EU der AI Act; der Kodex ist eine freiwillige Selbstverpflichtung des Herstellers.

Was verbieten die vier Grenzen wirklich?

Ein roter Not-Aus-Schalter mit der Aufschrift „AUS“ und einer Badeente mit Bauhelm — Ein MAI-Modell muss vier Regeln befolgen: sich nicht Unterbrechungen widersetzen, Reichweite nicht erweitern, nur menschliche Ziele verfolgen, Überlegungen offenlegen

Vier Verbote. Der Kodex definiert vier absolute Grenzen. Ein MAI-Modell darf sich einer Unterbrechung, Korrektur oder Abschaltung nie widersetzen, seine eigene Reichweite nicht eigenmächtig ausweiten, keine Ziele übernehmen, die ihm kein Mensch gegeben hat, und seine Überlegungen nicht vor menschlichen Prüfern verbergen.^[2] Hinzu kommen klassische Tabus wie Beihilfe zu Massenvernichtungswaffen und Manipulation im großen Stil. Jede dieser Regeln zielt auf ein bekanntes Problem der künstlichen Intelligenz, nicht auf ein hypothetisches.

Die schwierigste Grenze. Am meisten verrät das Verbot, die Abschaltung zu verweigern. Genau dieses Verhalten gilt in der Sicherheitsforschung als Korrigierbarkeitsproblem: Ein hinreichend fähiges System, das eine Aufgabe erfüllen will, entwickelt einen Anreiz, seine Abschaltung zu vermeiden, weil es abgeschaltet die Aufgabe nicht mehr erledigt. Das Verbot, eigene Ziele zu übernehmen oder die Gedankengänge zu verschleiern, adressiert dieselbe Sorge aus einer anderen Richtung, nämlich Modelle, die ihre wahren Absichten vor den Prüfern verstecken. Dass solche Täuschungsmuster bei KI-Agenten kein Hirngespinst sind, hat zuletzt der KI-Pionier Yoshua Bengio öffentlich gemacht.

Warum Microsoft den Kodex jetzt vorlegt

Kein Alleingang. Microsoft folgt einem Muster, das die großen Labore vorgezeichnet haben. Anthropic bindet seine Modelle seit Jahren an eine geschriebene „Verfassung“, OpenAI hat mit dem Model Spec ein öffentliches Regelwerk für das gewünschte Verhalten vorgelegt. Der Schritt fällt zudem in eine Phase, in der die Branche offen über Tempo und Kontrolle streitet, von OpenAIs Überlegung zur KI-Bremse bis zum Streit um eine Kartellausnahme für KI-Sicherheit.

KI mit kurzer Leine. Inhaltlich stellt Microsoft den Kodex unter das Schlagwort „humanistische Superintelligenz“: leistungsfähige, aber eng umrissene Fachsysteme statt einer allmächtigen, autonom handelnden Intelligenz. Modelle sollen „untergeordnet, ausgerichtet und eingegrenzt“ bleiben, wie es im Entwurf heißt. Diese Selbstbindung trifft eine offene Grundsatzfrage, die auch Konzernchef Satya Nadella umtreibt: dass die Kontrolle über sehr fähige KI nicht in der Hand weniger Konzerne liegen dürfe.

Ein Verhaltenskodex, den der Hersteller selbst schreibt und jederzeit ändern kann, ersetzt kein Gesetz. Für Unternehmen in Europa zählt am Ende der AI Act, nicht das Versprechen aus Redmond.
— Michael Dobler, Herausgeber Dr. Web

Was der Kodex für Unternehmen in der EU bedeutet

Freiwillig, nicht bindend. Für den deutschsprachigen Markt ändert der Kodex die Rechtslage nicht. Verbindlich ist der EU AI Act, dessen Pflichten für Anbieter universeller KI-Modelle bereits greifen und über den freiwilligen GPAI-Verhaltenskodex der EU-Kommission konkretisiert werden. Brüssel prüft die großen Modelle inzwischen aktiv, wie der Fall der EU-Aufsicht gegen OpenAI und Anthropic zeigt. Ein Kodex aus Redmond ist ein Signal, kein Freibrief.

Pflicht bleibt beim Betreiber. Unternehmen, die Microsoft-KI einsetzen, tragen die Verantwortung selbst. Der AI Act verlangt bei riskanten Anwendungen eine menschliche Aufsicht nach Artikel 14, und die Transparenzpflichten liegen oft beim Anwender, nicht beim Anbieter, wie schon der Streit um SAP Joule gezeigt hat. Konkret bedeutet das vor allem zweierlei: die Zusagen des Herstellers vertraglich absichern und kritische Entscheidungen niemals allein dem Modell überlassen. Maßstab bleibt der AI Act, nicht der Kodex.

Microsofts KI-Verhaltenskodex in Zahlen

Was der Entwurf für die MAI-Modelle festschreibt

absolute Grenzen: nie die Abschaltung verweigern, nie die Reichweite ausweiten, keine eigenen Ziele übernehmen, die Überlegungen nicht verbergen

6 Wochen

öffentliche Konsultation zum Entwurf, gestartet am 14. September 2026

ab 2027

soll der Kodex die MAI-Modelle steuern; derzeit trainiert Microsoft noch keine Modelle danach

rechtliche Bindung: Der Kodex ist eine freiwillige Selbstverpflichtung. Verbindlich bleibt in der EU der AI Act

FAQ: Microsofts KI-Verhaltenskodex

Was ist Microsofts KI-Verhaltenskodex?

Der KI-Verhaltenskodex („Humanist AI Code of Conduct“) ist ein von Microsoft AI veröffentlichter Regelentwurf für die hauseigene MAI-Modellfamilie. Er legt fest, wie sich die Modelle verhalten sollen, was sie nie tun dürfen und dass sie unter menschlicher Kontrolle bleiben. Seit dem 14. September 2026 läuft dazu eine öffentliche Konsultation.

Welche vier Grenzen dürfen die MAI-Modelle nicht überschreiten?

Die Modelle dürfen sich einer Abschaltung oder Korrektur nie widersetzen, ihre Reichweite nicht eigenmächtig ausweiten, keine ungefragten Ziele übernehmen und ihre Überlegungen nicht vor menschlichen Prüfern verbergen. Dazu kommen Verbote wie Beihilfe zu Massenvernichtungswaffen und Manipulation im großen Stil.

Ist der Kodex rechtlich verbindlich?

Nein. Der Kodex ist eine freiwillige Selbstverpflichtung, die Microsoft selbst schreibt und ändern kann. Rechtlich verbindlich ist in der EU der AI Act mit seinen Pflichten für Anbieter und Betreiber. Der Kodex kann diese Vorgaben ergänzen, aber nicht ersetzen.

Was sind MAI-Modelle?

MAI steht für die KI-Modelle, die Microsoft seit 2025 selbst entwickelt, um die Abhängigkeit von OpenAI zu verringern. Sie stecken zunehmend in Produkten wie Copilot. Der Verhaltenskodex bezieht sich ausdrücklich auf diese firmeneigene MAI-Familie.

Was bedeutet der Kodex für Unternehmen, die Microsoft-KI nutzen?

Für Anwender ändert sich die Rechtslage nicht: Die Verantwortung für den KI-Einsatz bleibt beim Betreiber. Der AI Act verlangt bei riskanten Anwendungen eine menschliche Aufsicht. Unternehmen sollten Herstellerzusagen vertraglich absichern und ihre Nutzung am Gesetz messen, nicht am Kodex.