Sam Altman beschrieb den Beschäftigten von OpenAI laut The Information drei Wege zu einer sicheren Superintelligenz. Am meisten hält der OpenAI-Chef demnach von einer internationalen Aufsicht nach dem Vorbild der Atomenergiebehörde IAEA. Den dritten Weg, bei dem eine einzige Firma die Rechenchips aller Rivalen ausschaltet, nannte Altman dem Bericht zufolge einen schlimmen Ausgang.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Altman sprach vergangene Woche intern über drei Vorschläge aus der Branche, berichtet das Magazin unter Berufung auf Insider. Eine Stellungnahme von OpenAI liegt nicht vor. In denselben Tagen nimmt in Washington die erste staatliche Aufsicht über die Entwickler von Superintelligenz die Arbeit auf.
Das Wichtigste in Kürze
- Laut The Information bevorzugt Altman eine internationale KI-Behörde nach dem Vorbild der IAEA.
- Als zweiten Weg nannte Altman einen Zusammenschluss der führenden KI-Firmen nach dem Vorbild des Forschungszentrums CERN.
- Den Vorsprung von OpenAI will Altman laut dem Bericht vorerst nicht aufgeben.
- In der EU darf das KI-Büro große Modelle bereits selbst bewerten, Bußgelder drohen seit August 2026.
Welche drei Wege hat Altman beschrieben?
Die internationale Behörde soll fortgeschrittene Modelle inspizieren und Sicherheitsvorkehrungen prüfen, so wie die IAEA Kernanlagen kontrolliert. Die Idee stammt von OpenAI selbst: Im Mai 2023 schrieben Altman, Greg Brockman und Ilya Sutskever, für Superintelligenz werde man wohl eine Art IAEA brauchen, die Systeme inspiziert und Prüfungen verlangt, sobald diese ein bestimmtes Leistungsniveau oder einen bestimmten Rechenaufwand überschreiten.[1]
Der zweite Weg folgt dem CERN-Modell: Die führenden KI-Firmen schließen sich zu einer Organisation zusammen, statt gegeneinander anzutreten. Für ein solches „CERN für KI“ hat sich Demis Hassabis, Chefwissenschaftler von Alphabet, wiederholt ausgesprochen.
Den dritten Weg nannte Altman laut dem Bericht den „Eliezer-Plan“, nach dem KI-Theoretiker Eliezer Yudkowsky. Eine Firma baut als erste eine KI, die sich selbst verbessert, und sichert sich mit dem Vorsprung die Kontrolle über die Rechenleistung, im äußersten Fall durch die Zerstörung der Grafikprozessoren aller Rivalen. Yudkowsky hatte 2022 das Vernichten aller Grafikprozessoren als Gedankenexperiment beschrieben, ausdrücklich nicht als Empfehlung.[2]
Warum spricht Altman gerade jetzt darüber?
Am 29. September unterschrieben die Chefs der großen US-KI-Firmen, für OpenAI Präsident Greg Brockman, ein freiwilliges Sicherheitsabkommen im Weißen Haus. Seit dem 15. Oktober arbeitet eine Arbeitsgruppe der Regierung um den US-Geheimdienstkoordinator Jay Clayton an einem Meldeweg für Zwischenfälle bei KI-Entwicklern, ihr Auftrag läuft 120 Tage.
Eine internationale Behörde hätte für OpenAI einen Vorteil: Die Regeln kämen von Staaten statt aus Absprachen unter Konkurrenten. Im September hatte Altman intern angeboten, die Entwicklung zu verlangsamen, sofern die Rivalen mitziehen. Kurz darauf verklagten vier zahlende Nutzer OpenAI, Anthropic, Google und xAI wegen einer angeblichen Absprache zur KI-Bremse. Ein Zusammenschluss nach CERN-Vorbild wäre kartellrechtlich noch heikler. Zugleich schüfe die Fusion genau die Machtballung, die Mark Zuckerberg für das größere Risiko hält.
- Idee: Eine internationale Behörde prüft Modelle und Sicherheitsvorkehrungen
- Vorgeschlagen: von OpenAI im Mai 2023
- Haken: USA und China müssten zustimmen
- Idee: Die führenden KI-Firmen arbeiten unter einem Dach
- Haken: Kartellrecht und Machtballung
- Idee: Eine Firma verbessert ihre KI selbst und sichert sich die Kontrolle über die Rechenleistung
- Ursprung: Gedankenexperiment von Eliezer Yudkowsky, 2022
- Folge: Kein Rivale holt mehr auf
- 29. September 2026: Freiwilliges Sicherheitsabkommen im Weißen Haus
- 4. Oktober 2026: Trump kündigt eine eigene Arbeitsgruppe an
- 15. Oktober 2026: Die Arbeitsgruppe nimmt die Arbeit auf, befristet auf 120 Tage
- KI-Büro: darf große Modelle mit systemischem Risiko selbst bewerten
- Seit 2. August 2026: Geldbußen bis 3 % des weltweiten Jahresumsatzes
Altmans bevorzugter Weg überlässt die Verantwortung Regierungen, die sich bei KI bislang auf keine gemeinsame Behörde geeinigt haben.
Markus Seyfferth, Chefredakteur Dr. Web
Was bedeutet das für Unternehmen im DACH-Raum?
Ein Teil der IAEA-Idee ist in der EU bereits geltendes Recht. Das KI-Büro der Kommission darf große Modelle mit systemischem Risiko selbst bewerten. Seit dem 2. August 2026 kann die Kommission gegen deren Anbieter Geldbußen von bis zu 3 % des weltweiten Jahresumsatzes verhängen.[3] Eine Behörde, die auch für KI-Entwickler in den USA und in China zuständig ist, fehlt dagegen.
Für Unternehmen, die auf Modelle von OpenAI, Anthropic oder Google bauen, liefen der zweite und der dritte Weg auf weniger Anbieter hinaus, mit mehr Macht über Preise und Zugang. Prüfen Sie deshalb gerne, ob Ihre Anwendungen auch mit einem zweiten Modell funktionieren und ob Ihre Verträge einen Anbieterwechsel ohne lange Bindung erlauben. Ihre Pflichten als Betreiber nach der KI-Verordnung bleiben ohnehin bestehen.
FAQ: Altman und die drei Wege zur Superintelligenz
Welche drei Wege hat Sam Altman beschrieben?
Laut The Information nannte Altman intern eine internationale KI-Behörde nach dem Vorbild der Atomenergiebehörde IAEA, einen Zusammenschluss der führenden KI-Firmen nach dem Vorbild des CERN und den sogenannten Eliezer-Plan, bei dem eine Firma mit sich selbst verbessernder KI alle Rivalen abhängt.
Was ist der Eliezer-Plan?
Der Name geht auf den KI-Theoretiker Eliezer Yudkowsky zurück. Yudkowsky beschrieb 2022 das Vernichten aller Grafikprozessoren als Gedankenexperiment dafür, wie mächtig eine überlegene KI sein müsste, ohne diesen Schritt zu empfehlen. Altman nannte ein solches Szenario laut The Information einen schlimmen Ausgang.
Hat die EU schon eine Aufsicht für große KI-Modelle?
Ja. Nach der KI-Verordnung darf das KI-Büro der EU-Kommission Modelle mit allgemeinem Verwendungszweck und systemischem Risiko bewerten. Seit dem 2. August 2026 kann die Kommission gegen deren Anbieter Geldbußen von bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro verhängen.
Was sollten Unternehmen jetzt tun?
Prüfen Sie, ob Ihre KI-Anwendungen auch mit einem zweiten Modell funktionieren und ob Ihre Verträge einen Anbieterwechsel ohne lange Bindung erlauben. Ihre Pflichten als Betreiber nach der KI-Verordnung gelten unabhängig davon, welchen Weg die USA wählen.
Quellen
3 Quellen anzeigenQuellen ausblenden
- OpenAIGovernance of superintelligence (englisch), Sam Altman, Greg Brockman, Ilya Sutskever
- Eliezer YudkowskyAGI Ruin: A List of Lethalities (englisch), LessWrong
- EUR-LexVerordnung (EU) 2024/1689 über künstliche Intelligenz, Artikel 92 und 101
Mehr Newshunger?
- Altman: Die Welt soll für KI „einige schlechte Dinge“ hinnehmen
- „Kein bestimmter Zeitplan“: Altman koppelt den OpenAI-Börsengang an Sicherheitsnachweise
- Streit um KI-Sicherheit: Anthropic will eine Kartellausnahme, Nvidia lehnt ab
- Masayoshi Son warnt vor Superintelligenz in falschen Händen
- Yann LeCun hält Amodeis KI-Warnungen für ein Manöver gegen offene Modelle
- Sergey Brin sieht Gemini auf dem Weg zur Selbstverbesserung, Googles Sicherheitsbericht misst kein höheres Tempo
- Alle Beiträge zu künstlicher Intelligenz
- Alle Meldungen über die Tech-Titanen
