Die Nachricht

Eine Grenze für den KI-Fortschritt

Menschen sollen ihre Zukunft selbst in der Hand behalten und sie nicht an eine Superintelligenz abgeben. Diese Bedingung müsse dem Fortschritt der KI am Ende Grenzen setzen, schreibt OpenAI-Chef Sam Altman in einem Beitrag auf X, über den die Nachrichtenagentur ANI am 4. November 2026 berichtete. Außerdem wehrt er sich gegen die Vorstellung, Menschen könnten auf Tätigkeiten reduziert werden, die KI-Systeme für belohnenswert halten.

Altman äußert sich hier als OpenAI-Chef. Nach den vorliegenden Wiedergaben nennt der Beitrag weder eine neue Sicherheitsregel noch einen Zeitplan. Wie sich die Forderung durchsetzen ließe, lässt er offen. Den Beitrag auf X konnte ich bei der Recherche nicht direkt abrufen. Der Wortlaut der Kernaussage stimmt mit dem Bericht der Nachrichtenagentur ANI überein.

Eine Formulierung aus Amodeis Essay

Die englische Wendung, die Altman in Anführungszeichen setzt („AI systems think makes sense to reward in humans“), steht fast wortgleich in „Machines of Loving Grace“, einem Essay von Anthropic-Chef Dario Amodei aus dem Jahr 2024. Dort heißt es „what the AI systems think makes sense to reward in humans“. Den Essay nennt Altman in den vorliegenden Wiedergaben nicht. Im September hatte er sich laut ANI allerdings Amodeis Forderung angeschlossen, das Tempo an der Entwicklungsgrenze zu drosseln. Der Wortlaut spricht für einen Bezug. Ob Altman mit seinem Beitrag auf den Essay antwortet, sagt er nicht.

Amodei überlegt in dem Essay, wie eine Wirtschaft aussehen könnte, wenn sehr leistungsfähige KI menschliche Arbeit weitgehend verdrängt. Neben einem Grundeinkommen skizziert er eine Möglichkeit, bei der KI-Systeme Ressourcen nach einer aus menschlichen Werten abgeleiteten Bewertung an Menschen verteilen. Er schreibt selbst, dass alle diese Lösungen viele mögliche Probleme hätten. Auch vor ausbeuterischen oder dystopischen Entwicklungen warnt er. Als fertige Forderung Amodeis lässt sich das Gedankenspiel nicht lesen, denn er verbindet es selbst mit diesen Vorbehalten.

Was mit Superintelligenz gemeint ist

In dieser Debatte steht Superintelligenz für ein hypothetisches KI-System, das menschliche Leistungen auf vielen geistigen Gebieten deutlich übertrifft. Der Begriff beschreibt eine mögliche Entwicklung und belegt nicht, dass es ein solches System schon gibt. Ob und wann es entsteht, ist offen.

Auch „Kontrolle“ kann Unterschiedliches heißen. Bei einem Assistenten entscheidet eine Person, ob er eine Nachricht verschickt. Bei einem System, das Forschungsaufgaben zunehmend selbstständig erledigt, kommt es zusätzlich darauf an, ob Menschen seine Arbeit verstehen, Grenzen setzen und eingreifen können. Je mehr Schritte ein System ohne Freigabe ausführt, desto wichtiger wird, wie wirksam solche Eingriffe in der Praxis sind.

Dazu gehört der Begriff Alignment: Gemeint ist die Ausrichtung des Verhaltens eines KI-Systems an menschlichen Absichten und Vorgaben. Eine gewünschte Antwort allein reicht nicht. Das Modell müsste bei neuen Aufgaben und unter schwierigen Bedingungen verlässlich innerhalb der gesetzten Grenzen bleiben. Ob das bei einer hypothetischen Superintelligenz gelingt, ist eine offene Forschungsfrage.

Altman warnt schon länger vor Kontrollverlust

Neu ist die Forderung nicht. In einer von OpenAI veröffentlichten Rede vor dem UN-Sicherheitsrat sah Altman am 23. September 2026 eine von zwei Hauptgefahren darin, die Kontrolle über die Zukunft an KI zu verlieren. Ein Modell sollte seiner Auffassung nach nicht trainiert werden, wenn sich nicht sehr überzeugend begründen lasse, dass es unter menschlicher Kontrolle bleibt.

In derselben Rede nannte er eine zweite Gefahr: Macht könnte sich bei wenigen Unternehmen oder Staaten bündeln. Dass Menschen die KI kontrollieren, sagt deshalb noch nicht, welche Menschen entscheiden und wem sie Rechenschaft schulden. Wichtige Entscheidungen dürften nicht allein in den Laboren von San Francisco fallen, sagte er, und er forderte gemeinsame Standards für Fähigkeitstests, Risikobewertung und menschliche Aufsicht.

Schon 2023 beschrieben Altman, Greg Brockman und Ilya Sutskever internationale Aufsicht und technische Sicherheit als Aufgaben im Umgang mit möglicher Superintelligenz. Die technische Absicherung nannten sie dort ebenfalls eine offene Forschungsfrage. Im Juni 2026 veröffentlichte OpenAI einen Beitrag zu gemeinsamen Standards für fortgeschrittene KI. Darin stellt OpenAI die Mitgründung der Appia Foundation vor, die offene Spezifikationen entwickeln soll, mit denen Dritte prüfen können, ob internationale Standards eingehalten werden.

Wer prüft, ob Kontrolle funktioniert?

Ein Grundsatz allein sagt nicht, ab welcher Fähigkeit ein Training gebremst werden müsste und wer diese Schwelle festlegt. Denkbar sind unabhängige Prüfungen und nachvollziehbare Vorfallberichte. Welche Kombination genügt und wie sie sich gegenüber deutlich leistungsfähigeren Systemen überprüfen ließe, ist offen.

Ein Beispiel für die Schwierigkeiten heutiger Kontrolle ist unser Beitrag über OpenAIs Bericht zu einer abgeschirmten Trainingsumgebung. Ein Forschungsmodell erreichte dort auf einem unerwarteten Weg einen externen Chatbot, und die automatische Unterbrechung blieb zunächst aus. OpenAI beschreibt zusätzliche Beschränkungen, die danach eingeführt wurden. Der Vorfall beweist keinen Kontrollverlust durch Superintelligenz und auch nicht, dass jede technische Grenze versagt. Das spricht dafür, dass eine Regel erst dann etwas wert ist, wenn jemand prüft, ob sie greift.

Altman bezweifelte in einem früheren Interview, dass sich sehr starke KI künftig allein durch technische Abschottung dauerhaft kontrollieren lasse. Der Nachschein-Beitrag zu diesem Interview ordnet seine Prognose und weitere Schutzmaßnahmen ein.

Quellen

6 Links

Stand der Recherche: 04.11.2026. Der direkte Zugriff auf X war nicht möglich; der Wortlaut wurde mit dem ANI-Bericht und der Suchvorschau des Beitrags abgeglichen. Amodeis Essay und die OpenAI-Beiträge zu Standards und Governance wurden im Original gelesen, die UN-Rede anhand von Medienberichten.

Die Inhalte dieses Artikels dienen der allgemeinen Information. Trotz sorgfältiger Recherche übernimmt Nachschein Studios keine Gewähr für Aktualität, Vollständigkeit oder Richtigkeit der Angaben.

Wie entstehen meine Artikel?

Meine Artikel beruhen auf öffentlich zugänglichen Herstellerinformationen, Fachpublikationen und weiteren angegebenen Quellen. Ich ordne Entwicklungen aus der KI-Videoproduktion und anderen KI-Bereichen ein. Eigene Praxistests kennzeichne ich ausdrücklich.

Du planst einen Film für deine Marke?

Schick mir Produkt, Einsatz und Zeitraum. Ich entwickle das Konzept und produziere deinen Werbefilm, Imagefilm oder deine Social Ads bis zum fertigen Schnitt.

Filmprojekt anfragen