Der 37. Zug von AlphaGo und die Suche nach weniger KI-Halluzinationen

Wer einem KI-Chatbot eine Frage stellt, bekommt meist eine flüssige, selbstsichere Antwort. Sie stimmt nicht immer. Manchmal erfindet das Modell Fakten, Zahlen oder Quellen, und der Fehler fällt kaum auf. Fachleute nennen das Halluzination.

Thore Graepel will das Problem grundsätzlich anders lösen. Er hat an AlphaGo mitgearbeitet und im Sommer 2026 Google DeepMind verlassen. Am 19. Oktober 2026 stellte sich sein Londoner Start-up Metis Reasoning offiziell vor, mit einem Whitepaper und einem ausführlichen Gespräch mit dem Branchendienst Pathfounders. Das Whitepaper heißt „The Age of Reasoning“ und ist ein Konzeptpapier. Es beschreibt, wie ein solches System aufgebaut sein könnte, enthält aber keine Messergebnisse.

Was mit Halluzinationen gemeint ist

Ein Sprachmodell, wie es etwa hinter ChatGPT steckt, schreibt Texte, indem es Stück für Stück berechnet, was als Nächstes am besten passt. Ob eine Aussage stimmt, gleicht es dabei nicht automatisch ab. Ein erfundener Satz kann genauso entstehen wie ein richtiger, solange er sprachlich passt.

Das Whitepaper nennt einen zweiten Grund, der in der Bewertung liegt. Im Training und in vielen Tests zählt eine richtige Antwort als Punkt. Eine falsche Antwort und ein ehrliches „Weiß ich nicht“ zählen beide als null. Für das Modell lohnt sich Raten dann mehr als Zugeben.

In einem privaten Chat ist das lästig. Handeln KI-Agenten selbstständig im Auftrag einer Firma, können solche Fehler teuer werden. Bei Software sieht das Whitepaper eine Ausnahme. Ein Test zeigt dort sofort, ob der Code läuft, und ein Fehler lässt sich mit einem Schritt zurück beheben. Diese Sicherheit fehlt in den meisten anderen Branchen. Die Autoren vermuten, dass Unternehmen der KI deshalb wichtige Aufgaben noch nicht anvertrauen. Als andere mögliche Erklärung nennen sie, dass sich neue Technik einfach langsam durchsetzt.

Was AlphaGo damit zu tun hat

AlphaGo ist ein Programm von DeepMind für das Brettspiel Go. In Seoul gewann es 2016 mit 4:1 gegen Lee Sedol, einen der besten Spieler der Welt. Es bestand aus zwei Teilen. Neuronale Netze, also lernende Programme, schlugen Züge vor und schätzten ein, wie gut eine Stellung ist. Eine Suche spielte dann viele mögliche Fortsetzungen durch und verglich sie.

Bekannt ist vor allem der 37. Zug der zweiten Partie. Laut Whitepaper schätzte das Netz die Chance, dass ein menschlicher Profi so ziehen würde, auf etwa 1 zu 10.000. Zunächst galt der Zug als Fehler, später als entscheidend. Die Autoren sehen darin ein Beispiel dafür, was Mustererkennung und Suche zusammen leisten können.

Graepel will dieses Zusammenspiel auf allgemeine Fragen übertragen. Im Gespräch mit Pathfounders bezeichnet er Metis als eine Art Verallgemeinerung von AlphaGo.

Dabei gibt es ein Problem. Auf dem Go-Brett sind alle Steine sichtbar, und die Regeln stehen fest. In der Forschung oder im Alltag kennt man dagegen oft nur Bruchstücke. Jede weitere Messung kostet, und manche Fragen bleiben schlicht offen. Das Whitepaper sagt selbst, dass sich AlphaGo nicht direkt übertragen lässt.

Wie Metis die Idee umsetzen will

Der erste Teil ist ein ausdrücklich gespeicherter Wissensstand. Er hält fest, was als gesichert gilt, was unsicher oder widerlegt ist und was offen bleibt. Zu jeder Aussage gehören die Belege, auf denen sie beruht. Heutige Modelle tragen ihr Wissen dagegen verteilt in den Gewichten mit sich, also in den Zahlenwerten des Modells. Dort lässt es sich kaum einsehen oder gezielt ändern.

Der zweite Teil ist eine Prüfinstanz. Sie entscheidet, ob neue Informationen ausreichen, um den Wissensstand zu ändern. Die Kriterien dafür legt nicht derselbe Teil fest, der die Änderung vorschlägt. Je nach Aufgabe kommen Berechnungen, formale Prüfungen oder empirische Belege infrage. Die Instanz darf auch feststellen, dass die Belege nicht reichen. Stellt sich eine Grundannahme als falsch heraus, kommen auch alle Folgerungen daraus noch einmal auf den Prüfstand.

Der dritte Teil entspricht den Netzen und der Suche aus AlphaGo. Ein Netz schlägt vor, welche Frage, Berechnung oder Untersuchung als Nächstes sinnvoll wäre. Ein zweites schätzt, wie viel Klarheit der Schritt bringen dürfte, und eine Suche vergleicht mögliche Abfolgen. Als Lernmaterial dienen protokollierte Untersuchungen aus der Vergangenheit. An die Prüfregeln bleiben die Netze fest gebunden.

Die Autoren orientieren sich dabei ausdrücklich an der wissenschaftlichen Methode. Man stellt eine Vermutung auf, prüft sie, korrigiert sie und merkt sich das Ergebnis. Ein Vorteil wäre, dass sich einzelnes Wissen gezielt korrigieren oder löschen ließe, ohne das ganze Modell neu zu trainieren. Vor allem aber erhoffen sich die Autoren Antworten, die seltener etwas erfinden und zeigen, worauf sie sich stützen.

Ganz neu sind die Bausteine nicht. Bei GraphRAG von Microsoft baut ein Sprachmodell aus Texten ein Netz aus Begriffen und Zusammenhängen und greift bei Antworten darauf zurück. Das Wissen liegt also außerhalb des Modells, geprüft wird es dabei aber nicht. Bei AlphaGeometry von Google DeepMind schlägt ein Sprachmodell Hilfslinien und Hilfspunkte vor, eine regelbasierte Beweismaschine leitet daraus Schritt für Schritt nachprüfbare Schlüsse ab. Beide Systeme lösen eine engere Aufgabe als die, die sich Metis vornimmt.

Was Metis an heutigen Sprachmodellen kritisiert

Graepel sagt, mehr Skalierung, also größere Modelle und mehr Rechenleistung, liefere nie eine nachprüfbare Begründung, der man wirklich vertrauen kann. Auch die ausführlichen Gedankenschritte, die manche Modelle ausgeben, zeigen laut Whitepaper nicht immer, wie die Antwort wirklich zustande kam. Metis setzt deshalb auf einen getrennt dokumentierten Prozess, den man nachprüfen kann. Ob dieser Weg besser ist, muss sich erst zeigen.

Wo Metis das System einsetzen will

Das Whitepaper nennt Wirkstoffforschung, medizinische Diagnose, Cybersicherheit, Chipdesign, Finanzen und Robotik. Laut Tech.eu sieht Metis vor allem Robotik und Ingenieurwesen als Einsatzfeld. Mitgründer Piers Ingram sagte, bei Anwendungen mit hohem Risiko könne man den Schlüssen heutiger Modelle nicht trauen. Graepel sagt, Robotik sei ein Denkproblem: Eine Maschine müsse ihre Umgebung verstehen und die Folgen ihrer Handlungen verlässlich einschätzen.

Auch bei den Kosten verspricht Metis etwas. Einzelne, klar abgegrenzte Denkschritte brauchen laut Whitepaper nicht immer große, teure Modelle. Das könne Energie und Zeit sparen und den Einsatz direkt auf Geräten oder in Robotern ermöglichen. Zahlen nennt das Papier dazu nicht. Ingram sprach von ermutigenden Ergebnissen bei anspruchsvollen Denkaufgaben zu einem Bruchteil der Kosten, veröffentlicht hat Metis dazu nichts.

Wer hinter Metis steht

Am University College London hat Graepel einen Lehrstuhl für maschinelles Lernen. Von 2015 bis 2021 war er bei DeepMind und arbeitete dort neben AlphaGo auch an den Nachfolgern AlphaZero und MuZero mit. Davor forschte er bei Microsoft Research, unter anderem an TrueSkill, das bei Xbox Live gleich starke Spieler zusammenbringt. Nach DeepMind leitete er bei Altos Labs den Bereich für maschinelles Lernen. 2025 ging er zurück zu Google DeepMind, bis er das Unternehmen im Sommer 2026 verließ. Promoviert hat er 2001 in Berlin. Die einzelnen Stationen stehen auf seiner Webseite.

Mitgründer sind laut Tech.eu Piers Ingram, Michael Warren und David Berman. Ingram hat mehrere Technologie- und Biotech-Firmen aufgebaut, Warren kommt aus der Robotik, Berman leitet die KI-Abteilung bei Cambridge Consultants. Zum Start bestand das Team aus zwölf Personen.

Zum Geld gibt es bisher nur Berichte. Laut Bloomberg, wiedergegeben von Investing.com, will Graepel zunächst einen zweistelligen Millionenbetrag in US-Dollar bei einer kleinen Gruppe von Investoren einsammeln. Der Bericht stammt vom 24. September 2026. Danach könnte eine deutlich größere Runde mit mehreren hundert Millionen Dollar folgen, dann bei höherer Bewertung. Die Gespräche galten als vorläufig, Struktur und Umfang konnten sich noch ändern. Ingram wollte die Berichte gegenüber Tech.eu nicht kommentieren und sagte lediglich, die Firma sei bisher mehr als ausreichend finanziert. Graepel bestätigte gegenüber Pathfounders nur, dass Gespräche laufen.

Was bisher belegt ist

Öffentlich einsehbar ist ein Whitepaper ohne Messergebnisse. Graepel sagt im Interview, es gebe bereits einen Prototyp, der wissenschaftliche Probleme auf Promotionsniveau bearbeiten könne. Laut Pathfounders haben ihn Wissenschaftler aus Biotech-Projekten der Gründer ausprobiert. Veröffentlichte Tests gibt es dazu nicht, und von außen lässt sich nicht prüfen, wie weit der Prototyp ist. The Decoder erwähnt den Prototyp nicht und nennt das Konzept einen theoretischen Entwurf ohne lauffähiges System, ohne Messwerte und ohne Vergleich zu heutigen Modellen. Die beiden Darstellungen widersprechen sich, klären lässt sich das bisher nicht.

Offen ist auch, wie das geprüfte Wissensverzeichnis in komplexen Bereichen überhaupt entstehen soll. Laut The Decoder räumt das Whitepaper selbst ein, dass frühere KI mit festen Regeln und Wissensdatenbanken unter anderem daran scheiterte, dass Menschen das Wissen von Hand eintragen mussten. Und ein dokumentierter Prüfweg garantiert nicht, dass die Quellen und Messungen selbst stimmen.

Graepel stellte in drei bis sechs Monaten eine praxisreife Version für externe Tests in Aussicht, einen festen Termin gibt es nicht. Erst solche Tests können zeigen, wie zuverlässig das System Unsicherheit erkennt und wie es gegen heutige Modelle abschneidet. Bis dahin ist Metis ein Ansatz mit einem prominenten Gründer, dessen Nutzen gegen Halluzinationen noch nicht belegt ist.

Stand der Recherche: 27.10.2026. Der Artikel beruht auf veröffentlichten Quellen. Ein eigener Test des Systems war nicht möglich.

Alle Angaben erfolgen nach bestem Wissen und ohne Gewähr. Für Richtigkeit, Vollständigkeit und Aktualität übernehme ich, soweit gesetzlich zulässig, keine Haftung.