Strata bringt ein großes KI-Modell auf den Gaming-PC

Was Strata eigentlich macht

Strata ist eine kostenlose, quelloffene Software für lokale KI. Sie bringt das Sprachmodell Qwen3.8-Flash-Next auf den eigenen Rechner. Damit kann man chatten, Texte schreiben, Code bearbeiten und Bilder beschreiben lassen. Strata lässt sich außerdem mit anderen Programmen verbinden.

Das Besondere ist die Größe des Modells: Sein Sprachmodell umfasst 125 Milliarden Parameter. Das sind gelernte Werte, mit denen es Sprache verarbeitet. Die hohe Zahl allein sagt aber nicht, wie gut eine Antwort ausfällt. Qwen3.8-Flash-Next besteht aus vielen spezialisierten Teilnetzen, sogenannten Experten. Für jedes Textstück arbeitet nur eine kleine Auswahl dieser Experten. Dadurch muss der Rechner nicht alle Modellteile gleichzeitig berechnen. Strata legt häufig benötigte Experten im Grafikspeicher ab. Die übrigen bleiben im Arbeitsspeicher; der Prozessor rechnet ebenfalls mit. So muss das ganze Modell nicht in den Grafikspeicher passen. Quelle: Strata-Projektbeschreibung und Qwen-Modellkarte.

Ein einfaches Bild dafür: Die Grafikkarte ist die schnelle Arbeitsfläche, der Arbeitsspeicher das Regal daneben und die SSD der Lagerraum. Mehr Platz auf der SSD ersetzt keinen fehlenden Arbeitsspeicher. Muss Strata Teile ständig von der SSD nachladen, wird es deutlich langsamer.

Welche Grafikkarte passt?

Für den regulären Einstieg nennt Strata NVIDIA-Karten der RTX-20- bis RTX-50-Reihe sowie ausgewählte AMD-Radeon-Karten – jeweils mit mindestens 12 GB Grafikspeicher. Welche Modelle unterstützt werden, steht in der aktuellen Hardwareliste. Unter Windows findest du den Namen deiner Karte und ihren eigenen Grafikspeicher im Task-Manager unter „Leistung“ und „GPU“. Eine RTX 5070 mit 12 GB ist also bereits eine passende Karte.

Entscheidend ist daneben der Arbeitsspeicher: Mit 64 GB lassen sich die vier komprimierten Standardfassungen nutzen. Größere, weniger stark komprimierte Varianten brauchen mehr Speicher. Bei 32 GB empfiehlt das Projekt in der einfachen Konfiguration vor allem eine abgespeckte Coder-Version. Sie behält nur die Hälfte der Experten und ist bei allgemeinen Texten und manchen Sprachen schwächer.

Eine Ausnahme gibt es für Karten mit 24 GB Grafikspeicher: Ein besonderer Modus ermöglicht dort auch den Betrieb einer allgemeinen Modellfassung mit 32 GB Arbeitsspeicher; zur Auswahl stehen Q2_0 und IQ2_XS. Die folgenden RTX-5070-Messungen stammen dagegen von einem PC mit 64 GB Arbeitsspeicher. Details zur Auswahl stehen in der Übersicht der Modellfassungen.

Die Werte stammen aus unterschiedlichen Rechnern und teils unterschiedlichen Modellfassungen. Sie sind keine Rangliste der Grafikkarten. Gemessen wurde das Schreiben kurzer Chatantworten; die RTX-3090-Angabe ist eine Schätzung.

Quelle für Projektwerte und Schätzung: Strata-Messwerte und Hardwarehinweise.

Die Zahlen geben eine Orientierung, aber keinen fairen direkten Vergleich der Grafikkarten: Die Rechner unterscheiden sich auch bei Prozessor und Arbeitsspeicher. Mehr Grafikspeicher kann helfen, weil dann mehr Experten auf der Karte Platz finden. Er macht eine GPU aber nicht automatisch schneller, und er ersetzt nicht den übrigen Arbeitsspeicher. Vor einem Kauf sollte man deshalb prüfen, ob Strata die konkrete Karte unterstützt und welche Modellfassung zum ganzen Rechner passt.

Wo RTX Spark einzuordnen ist

Auch NVIDIAs neue Plattform RTX Spark ist für lokale KI gedacht. Laut NVIDIA verbindet sie einen Arm-Prozessor mit einer Blackwell-Grafikeinheit und bis zu 128 GB gemeinsamem Speicher. Sie läuft mit Windows 11. Das ist ein anderer Aufbau als ein PC mit separater RTX-Grafikkarte. Quelle: NVIDIAs RTX-Spark-Produktseite.

Eine bestätigte Strata-Unterstützung für RTX Spark unter Windows auf Arm habe ich in den geprüften Projektunterlagen nicht gefunden. Für den anderen KI-Rechner DGX Spark gibt es experimentelle Community-Anpassungen unter Linux. Daraus lässt sich die Unterstützung von RTX Spark nicht ableiten. Deshalb sind die Strata-Messwerte dieses Artikels keine Leistungsangaben für RTX Spark. Quellen: Strata-Systemanforderungen und Community-Port für DGX Spark.

Was die Geschwindigkeitswerte bedeuten

Dasselbe Modell gibt es in unterschiedlich stark komprimierten Fassungen. Namen wie Q2_0 oder IQ3_S kennzeichnen diese Varianten. Eine stärkere Kompression spart Speicher und kann die Antworten beschleunigen. Sie kann aber auch ihre Qualität mindern.

Die RTX-5070-Messungen stammen vom Strata-Team. Mit 64 GB Arbeitsspeicher erreichte der Test-PC je nach Modellfassung zwischen 53 und 94 Tokens pro Sekunde beim Schreiben einer kurzen Antwort. Tokens sind kleine Textbausteine; ein deutsches Wort kann auch aus mehreren Tokens bestehen. Zur Orientierung: Eine Antwort mit 300 Tokens wäre bei diesen Raten nach rund drei bis sechs Sekunden fertig geschrieben. Das ist ein Rechenbeispiel, kein zusätzlicher Test. Die Wartezeit vor dem ersten Text kommt noch dazu; lange Eingaben oder Chatverläufe können das Tempo verringern.

Die stärker komprimierte Fassung Q2_0 war mit 94 Tokens pro Sekunde am schnellsten. IQ3_S kam auf 53. Für Q2_0 nutzte das Team eine neuere Strata-Version als für die übrigen Modellfassungen; die Werte sind daher nur bedingt untereinander vergleichbar. Die Entwickler haben vor allem die Geschwindigkeit gemessen, nicht die Qualität der Antworten unabhängig bewertet.

Ein externer Vergleich ist nur eingeschränkt aussagekräftig: Er stellt Strata einer anderen Software für lokale KI namens llama.cpp gegenüber. Beide liefen mit derselben Modellfassung auf einer RTX 5070, aber mit unterschiedlich langen Eingaben. Strata nutzte außerdem eine zusätzliche Beschleunigung: Es sagt kommende Textstücke voraus und lässt das große Modell diese prüfen. Unter diesen Bedingungen wurden 62 Tokens pro Sekunde für Strata und 13,8 für llama.cpp veröffentlicht. Daraus folgt kein allgemeines Geschwindigkeitsversprechen gegenüber llama.cpp. Quelle: Messwerte des Strata-Projekts und Einordnung des RTX-5070-Vergleichs.

Vom Download zum ersten Chat

Der reguläre Einrichtungsweg richtet sich an Windows 10 oder 11 und Linux. Ein aktueller Grafikkartentreiber gehört zu den Voraussetzungen. Für Apple-Silicon-Macs gibt es einen eigenen, bislang als experimentell eingeordneten Weg.

Unter Windows entpackst du Strata und startest die Datei „START-HERE.bat“. Unter Linux führt ein Einrichtungsskript durch die Installation. Es erkennt die Grafikkarte und schlägt eine passende Modellfassung vor. Anschließend lädt es die großen Modelldateien herunter und öffnet die Chatoberfläche im Browser. Dieser Browser-Chat läuft auf dem eigenen Rechner.

Wie lange die Einrichtung dauert, hängt unter anderem von Internetverbindung und SSD ab. Beim ersten Laden des Modells kann der Rechner laut Projekt für ein bis drei Minuten kaum reagieren. Ein kurzer Online-Chat ist schneller geöffnet; für Strata sollte man etwas Zeit und Bereitschaft zur Einrichtung mitbringen. Die einzelnen Schritte stehen in der Installationsanleitung.

Wann sich der lokale Betrieb lohnt

Wer lokal chattet, schickt die Anfrage nicht an einen KI-Anbieter. Das kann für vertrauliche Texte interessant sein. Sobald man weitere Online-Dienste oder verbundene Programme nutzt, hängt der Datenfluss auch von deren Einstellungen ab.

Für den lokalen Chat zahlst du keine Nutzungsgebühr. Dafür braucht man einen passenden Rechner, viel Arbeitsspeicher, rund 70 bis 80 GB freien Speicherplatz und eine schnelle SSD. Je nach Modellfassung und Einstellungen kann zusätzlicher Platz nötig sein. Der erste Download ist groß, und der Stromverbrauch des PCs gehört ebenfalls zu den Kosten. Außerdem ist Strata auf Qwen3.8-Flash-Next zugeschnitten. Wer unterschiedliche Modelle unkompliziert ausprobieren möchte, ist mit einem allgemeinen Cloud-Dienst oder einer breiter aufgestellten lokalen Software möglicherweise besser bedient.

Strata macht ein sehr großes Modell auf geeigneter Gaming-Hardware nutzbar. Die RTX 5070 zeigt, dass dafür nicht zwingend eine Profi-Grafikkarte nötig ist. Die veröffentlichten Zahlen sind aber Projektmessungen, keine Garantie für jeden PC. Am besten probierst du dieselben eigenen Text- oder Codeaufgaben mit Strata und einem vertrauten KI-Dienst aus. Geschwindigkeit allein sagt nichts darüber aus, ob die Antworten stimmen.

Stand: 15. Oktober 2026. Dieser Beitrag beruht auf den verlinkten Projektunterlagen und veröffentlichten Messungen. Nachschein hat Strata nicht selbst getestet.