Niko1221/Strata

English · 简体中文 · 日本語 · Deutsch · Français · Español · Português

Unterstützt NVIDIA, AMD, Intel · Windows, Linux, Mac · kostenlos und Open Source

_{Ein Voxel-Pagodengarten aus einem einzigen Prompt, auf einer RTX 5070 mit Strata (IQ3_S, 128K Kontext) · ganzes Video (49 s)}

Strata lässt Qwen3.8-Flash-Next laufen, ein Modell mit 125 Milliarden Parametern, für das man sonst einen Server braucht, auf einem normalen PC. Es chattet, schreibt Code, liest Bilder und arbeitet mit deinen Apps und Coding-Agents zusammen. Deine Chats und Dateien bleiben auf deinem PC.

Neu hier? Sieh dir an, was du brauchst, und installiere dann die App.

• Läuft auf einem Gaming-PC. 32 GB Arbeitsspeicher (RAM) und Grafikspeicher zusammen reichen für den Anfang.
• Passt zu deinen Werkzeugen. Strata spricht die OpenAI- und die Anthropic-API, deshalb verbinden sich Claude Code, Codex CLI, OpenCode und andere Agents damit.
• Liest Bilder. Das ist standardmäßig eingeschaltet.
• Kostenlos. MIT-Lizenz, kein Konto, keine Cloud.
• Privat. Keine Telemetrie. Was Strata herunterlädt, wann es das Internet nutzt und wie es Downloads prüft, steht in docs/SAFETY.md.

Version 0.2.2 · Engine 0.1.47

Du brauchst mindestens 32 GB Arbeitsspeicher (RAM) und Grafikspeicher (VRAM) zusammen. Bei einem Mac oder einem Ryzen AI Max ist das der gemeinsame Speicher. Mit mehr Speicher läuft ein größeres oder ein schnelleres Modell.

• Ein PC mit 32 GB und einer Grafikkarte mit 12-16 GB führt den Coder aus.
• Mit 64 GB RAM laufen alle Größen.

Außerdem nötig:

• etwa 80 GB freier Speicherplatz (mit einer SSD startet es beim ersten Mal viel schneller)
• Windows 10 / 11, Linux oder macOS
• ein aktueller Grafiktreiber

Zwei oder drei Karten desselben Herstellers können sich ein Modell teilen (Multi-GPU). Strata teilt ein Modell nie auf NVIDIA- und AMD-Karten auf. Die vollständige Liste: docs/INSTALL.md.

Such dir eine Option aus. Alle starten dieselbe Engine und nutzen dieselben Modelle.

Der einfachste Weg. Die App bringt die Engine mit: installieren, ein Modell wählen, chatten. Lade die Datei für dein System und deine Grafikkarte von der Releases-Seite herunter. Du bist unsicher, welche du brauchst? Lies den Absatz unter der Tabelle.

Wenn du unsicher bist: Bei NVIDIA nimmst du cuda13, wenn dein Treiber Version 580 oder neuer ist, sonst cuda12. cuda12 ist für ältere Karten und ältere Treiber. Die Dateien hip und amd sind für AMD-Karten. Für andere AMD-Karten (RX 6000) gibt es noch keine fertige App: siehe AMD-Karten.

Danach:

• Windows: Starte die .exe. Sie wird für deinen Benutzer installiert und braucht keine Administratorrechte. Wenn Windows "Der Computer wurde durch Windows geschützt" meldet, wähle Weitere Informationen und dann Trotzdem ausführen (der Installer ist noch nicht signiert).
• Linux: Mach die Datei ausführbar (chmod +x) und starte sie. Sie braucht FUSE 2: sudo apt install libfuse2 (Ubuntu 22.04) oder libfuse2t64 (Ubuntu 24.04 und neuer).
• Mac: Öffne die .dmg und zieh Strata in den Ordner "Programme".

Auf dem ersten Bildschirm liest die App deinen PC aus und empfiehlt ein passendes Modell. Drück auf Installieren. Das Modell ist ein großer Download (etwa 40-70 GB) und wird nach einer Unterbrechung dort fortgesetzt, wo er aufgehört hat. Wenn du das Fenster schließt, beenden sich Strata und die Engine.

Das Terminal ist der Befehl strata, gedacht für Skripte, Server und KI-Agents.

Linux und Mac:

curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh | sh

Windows (PowerShell):

irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex

Das Skript prüft deinen PC, lädt das Terminal herunter, kontrolliert die SHA-256-Prüfsumme und entpackt es in deinen Home-Ordner. Es braucht keine Administratorrechte. Öffne unter Windows danach ein neues Terminalfenster. Dann startest du Strata:

strata launch

Es stellt dir eine Frage nach der anderen: Modell, Kontext, Bilder, wer sich verbinden darf. Danach lädt es die Engine für deine Grafikkarte herunter (signiert und vor der Nutzung probeweise gestartet), dazu das Modell, und beginnt zu laufen. Für Skripte und KI-Agents gibt es Flags:

strata launch --model q2_0 --yes --no-tui

Wenn du das Installationsskript vor dem Ausführen lesen willst, lade es zuerst mit curl -fsSL <address> -o install.sh herunter, lies es und führe dann sh install.sh aus. Alle Bildschirme und Flags: docs/TERMINAL_LAUNCH.md.

Füge das in Claude Code, Cursor, Codex, GitHub Copilot oder einen anderen Coding-Assistenten ein:

Set up Strata on this PC for me: https://github.com/Niko1221/Strata - follow docs/AI_SETUP.md in that repository.

Der Assistent prüft deine Grafikkarte, deinen Arbeitsspeicher und den Speicherplatz, wählt das passende Modell, installiert und startet es und sagt dir, wie du deine Apps verbindest. KI-Werkzeuge können Strata auch über den MCP-Server installieren, starten und stoppen.

Du willst es lieber selbst bauen? Siehe Aus dem Quellcode bauen.

Die App und strata launch empfehlen ein Modell passend zu deinem Speicher. Es ist ein einziges Modell in mehreren Größen, mehr oder weniger stark komprimiert. Kleinere Größen sind schneller. Größere Größen sind etwas klüger.

Gyro (von agentionai) ist die kleinste Möglichkeit, dieses Modell auszuführen.

Gyro läuft auf NVIDIA- und AMD-Karten (bei AMD experimentell) auf Intel-Arc-Karten unter Linux (getestet auf einer Arc A750) und ab 0.2.2 auf Macs mit Apple Silicon (Gyro-S auf einem Mac mini mit 32 GB: 9 Tokens/s, die Experten werden von der SSD gelesen). Details und Messwerte: docs/GYRO.md. Starte es mit strata launch --model gyro-s.

Auch mit weniger RAM, als eine Zeile nennt, kann es funktionieren: Strata wechselt von selbst in seinen Modus für wenig RAM. Rechne mit weniger Tempo, mit einer kleinen Grafikkarte mit deutlich weniger.

Weitere Auswahl:

• Swift 1.5 ist eine Feinabstimmung, die kürzer nachdenkt, bevor sie antwortet, bei etwa gleicher Qualität und gleichem RAM-Bedarf.
• NVFP4 ist NVIDIAs 4-Bit-Version für NVIDIA-Karten. Sie braucht etwa 80 GB RAM, um alle Experten im RAM zu halten.
• Qwen3.6-35B-A3B ist ein kleineres, anderes Modell, das Bilder liest und mehrere Anfragen gleichzeitig beantworten kann.
• OrcaRouters Uncensored IQ3_XXS richtest du von Hand ein.

Alle Größen, Downloads und was wo läuft: docs/MODELS.md.

Gemessen mit einer Grafikkarte mit 12 GB (RTX 5070, Ryzen 5 7600, 64 GB RAM). Ergebnisse anderer Karten findest du hier: Tempo jeder Größe, Ergebnisse der Community.

Ein Token ist etwa ¾ eines Wortes, 60 Tokens pro Sekunde sind also schneller, als du lesen kannst. "Liest deinen Prompt" beschreibt, wie schnell Strata ein langes Dokument, Code oder einen Chatverlauf aufnimmt.

Gemessen mit einer AMD-Karte mit 16 GB (RX 9070 XT, Ryzen 9 3900X, 47 GB RAM):

Die Balken haben in beiden Tabellen denselben Maßstab. Eine Karte mit mehr VRAM ist schneller. Eine RTX 3090 (24 GB) sollte etwa 100-140 Tokens pro Sekunde schreiben. Die Engine-Version hinter jeder Zahl steht in DETAILS.md.

Die App hat einen Chat, einen Monitor für das Modell sowie für GPU, CPU und RAM, eine Seite Modelle und die Einstellungen. Der Chat kann in einem Ordner auf deinem PC arbeiten. Im Modus Manuell fragt er nach, bevor er eine Datei ändert oder einen Befehl ausführt. Mit /loop 10m <what to do> wiederholst du eine Nachricht alle 10 Minuten, solange der Chat geöffnet ist.

Der Chat kann das Web mit DuckDuckGo (oder Bing) durchsuchen, ohne Konto. Unter Einstellungen, Tools kannst du einen Suchschlüssel hinzufügen. Die Suche ist die einzige Funktion, die etwas von deinem PC sendet (die Suchbegriffe).

Um zwei Modelle auszuführen, schalte Mehrere Modelle ausführen ein und gib jedem Modell eine eigene Karte desselben Herstellers.

_{Ein Chat in der Strata-App: Der Agent hat einen kleinen Voxel-Pagodengarten als eine HTML-Datei geschrieben, und die Seite öffnet sich in der Vorschau neben dem Gespräch}

_{strata monitor, während das Modell antwortet: Geschwindigkeit, GPU, Speicher und die letzten Anfragen}

strata launch                                  # guided screens: model, context, pictures, access, then serve
strata launch --model q2_0 --yes --no-tui     # no questions: serve, print the address, return
strata launch --plan --model q2_0              # show what would happen; nothing changes
strata launch --status                         # what is being served now
strata launch --stop                           # stop it
strata monitor --url http://127.0.0.1:8080     # watch speed, GPU, memory and requests
strata update --check                          # is there a new engine? (strata update installs it)
strata doctor                                  # check the installed engine files

strata --help listet alles auf. Starten und Bereitstellen laden nichts herunter. Nur die Installation, strata launch (wenn du ein Modell wählst) und strata update tun das. Um Strata von deinem Handy oder einem anderen PC aus zu erreichen, nutze strata launch --access lan. Der Befehl erzeugt einen API-Schlüssel und startet in einem Netzwerk nicht ohne einen. Ein Browser öffnet sich nur, wenn du --open angibst. Anleitung: docs/TERMINAL_LAUNCH.md. Der ganze Client: docs/TERMINAL.md.

Ein Agent installiert Strata mit dem Einzeiler aus Option B und führt strata launch --model NAME --yes --no-tui aus. Die Schritte, Flags und Exit-Codes stehen in docs/AI_SETUP.md, die Regeln für das Repository in AGENTS.md.

strata connect gibt die genauen Einstellungen für OpenCode, Codex CLI, Claude Code, oh-my-pi, pi, Hermes Agent und OpenClaw aus. strata connect opencode --write schreibt die Datei nach einer Rückfrage und legt eine Sicherung an.

Bilder sind für Modelle, die sie lesen können, standardmäßig eingeschaltet. Hänge ein Bild im Chat an oder füge es ein, oder sende es aus deiner App. Der Bildleser läuft auf dem Prozessor, wenn deine Grafikkarte weniger als 24 GB hat (einige Sekunden pro Bild, ohne Speicher der Karte zu belegen), und ab 24 GB auf der Grafikkarte. Die Regel gilt für NVIDIA und AMD gleich. Du kannst Bilder pro Modell ausschalten oder den Leser mit --vision off, --vision gpu oder --vision cpu wählen.

Die Zahlen hinter der Regel: Auf einer Radeon AI PRO R9700 brauchte der Bildleser der Karte 57 ms für ein Bild mit 260 Tokens, der des Prozessors 3,1 s. Auf Karten mit 16 GB (Tesla P100 und RTX A4000, Linux) kostete der Bildleser der Karte 3-5 % des Texttempos, weil er etwa 1,4 GB belegt, die sonst das Modell nutzen würde. Auf dem Mac liest die GPU, egal wie viel Speicher er hat (0,45 s für ein Bild mit 260 Tokens auf einem M4 mit 32 GB, etwa 1,2 GB des gemeinsamen Speichers); der Prozessor braucht dort etwa 50 s pro Bild und liest deshalb nur mit --vision cpu.

• Das Denkniveau (aus, niedrig, mittel oder hoch) stellst du im Chat-Menü oder unter "reasoning effort" in deiner App ein. Aus ist am schnellsten.
• Strata beantwortet standardmäßig eine Anfrage nach der anderen. Für mehrere gleichzeitig nutze --parallel N in strata launch oder "parallel": 2 in der Konfiguration (BATCHING.md). Auf einer Karte mit 12 GB wird dadurch jede Antwort langsamer.
• Strata liest die erste Nachricht eines Chats komplett, etwa 1 Minute pro 30.000 Tokens. Folgenachrichten starten in Sekunden.
• Wo deine Chats gespeichert werden und die ganze API: docs/INSTALL.md, docs/DETAILS.md.

"args": [ ..., "--adapt-async", "1" ],
"env": { "STRATA_PIN_BY_NEED": "1" }

Modelle wie dieses laufen normalerweise auf Servern mit Hunderten Gigabyte Grafikspeicher. Deine Grafikkarte hat 12-24 GB. Strata bringt das Modell auf deinen PC, indem es die Arbeit auf den ganzen Rechner verteilt. Stell dir eine Bibliothek vor.

• Das Modell ist ein Team aus 24.576 kleinen Spezialisten ("Experten"), wie 24.576 Nachschlagewerke. Für jedes Wort braucht es nur 10 davon.
• Deine Grafikkarte ist der Schreibtisch. Er ist klein und schnell. Die etwa 4.000 am häufigsten genutzten Bücher liegen dort aufgeschlagen.
• Dein RAM sind die Regale im Lesesaal. Alle 24.576 Bücher stehen dort. Braucht ein Wort ein Buch, das nicht auf dem Schreibtisch liegt, holt dein Prozessor es sofort aus dem Regal, während die Karte weiterarbeitet.
• Deine SSD ist das Archiv. Sie enthält eine Nachschlagetabelle von 29 GB. Das Modell liest pro Wort nur wenige Zeilen daraus, deshalb muss sie nicht im RAM liegen.

Ein kleiner Helfer rät außerdem die nächsten Wörter. Das große Modell prüft sie alle auf einmal und behält die richtigen. Du bekommst dieselbe Antwort, 1,6-1,8-mal früher. Lange Texte werden in großen Stücken gelesen, bis zu 8.192 Tokens auf einmal, mit über 1.000 Tokens pro Sekunde.

Die ausführliche Erklärung: docs/HOW_IT_WORKS.md. Jeder Teil mit seinen Zahlen: die Details und das Paper.

• Mein PC ist beim ersten Start von Strata eingefroren. Strata lädt das Modell in den RAM. Warte ab und schließe das Fenster nicht. Nach 10 Minuten immer noch eingefroren? Starte den PC neu, schließe andere Programme und versuch es noch einmal, oder wähle eine kleinere Größe.
• Es ist beim Herunterladen oder Installieren stehen geblieben. Starte die App oder strata launch noch einmal, oder führe START-HERE.bat (oder ./setup.sh) erneut aus. Es macht dort weiter, wo es aufgehört hat.
• Es ist sehr langsam, die Festplattenanzeige blinkt ständig, oder es meldet "the engine stopped unexpectedly". Dein PC hat nicht genug freien RAM. Schließe andere Programme (Browser brauchen viel) oder wähle eine kleinere Größe wie Q2_0 oder IQ2_XS.
• Es meldet, dass es keine Engine für diesen PC gibt. Öffne in der App Einstellungen, Engine und drücke Engine aktualisieren. Führe im Terminal strata update aus. strata doctor zeigt, welche Engine-Dateien installiert sind.
• Es meldet, dass Port 8080 schon belegt ist. Strata läuft bereits. Such das Fenster.

Weitere Probleme und Lösungen: docs/TROUBLESHOOTING.md. Du kommst nicht weiter? Öffne ein Issue. Hänge in der App die Datei aus Einstellungen, Engine, Diagnose, Protokolle anzeigen, Protokolle speichern an. Füge im Terminal die Ausgabe von strata doctor ein. Hänge beim Start aus dem Quellcode die Datei strata-<model>.log aus dem Strata-Ordner an. Ein Sicherheitsproblem meldest du bitte privat: SECURITY.md.

Das Modell ist Qwen3.8-Flash-Next vom Qwen-Team. Komprimiert wurde es von ISTA-DASLab, UkisAI (Swift 1.5), agentionai (Gyro) und Unsloth. Strata nutzt Teile von llama.cpp / ggml. Alle Danksagungen: docs/HOW_IT_WORKS.md. Strata ist Open Source unter der MIT-Lizenz. Einige Teile und alle Modelle haben eigene Lizenzen (welche).

Du hast einen Fehler gefunden oder willst eine Änderung oder einen Benchmark einsenden? Lies zuerst CONTRIBUTING.md. Dort steht, was dazugehört, damit andere deine Arbeit nachprüfen können.

Strata ist kostenlos und steht unter der MIT-Lizenz. Ich baue es und teste es auf jeder Hardware, die ich bekommen kann. Wenn es auf deinem PC gut läuft, hilft mir ein Kaffee, weiter neue Karten zu testen und das zu beheben, was ihr meldet. Es besteht kein Druck. Strata zu nutzen und zu melden, was dir auffällt, hilft genauso viel.

Du möchtest Strata sponsern? Schreib mir über GitHub.