Xiaomi MiMo erreicht 1.000 Tokens pro Sekunde auf handelsüblichen GPUs – ohne Spezialchips

Ein neuer Geschwindigkeitsrekord bei künstlicher Intelligenz

Am 8. Juni 2026 veröffentlichte Xiaomi MiMo V2.5 Pro UltraSpeed, einen Inferenzmodus, der ein Sprachmodell mit einer Billion Parametern auf standardmäßigen Cloud-Grafikprozessoren auf mehr als 1.000 Tokens pro Sekunde beschleunigt. Damit überschreitet erstmals ein Modell dieser Größenordnung diesen Schwellenwert, ohne auf maßgeschneiderte Chips oder spezialisierte Hardware angewiesen zu sein. Interne Demos zeigen eine Spitzengeschwindigkeit von annähernd 1.200 Tokens pro Sekunde, die auf einem einzelnen handelsüblichen Knoten mit acht GPUs gehalten wird.

Um die Bedeutung einzuordnen, lohnt ein Vergleich mit aktuellen öffentlichen Benchmarks. OpenAIs GPT 5.5 erzeugt rund 68 Tokens pro Sekunde. Claude Opus 4.6 kommt auf etwa 71 Tokens pro Sekunde, während Google Gemini Flash 192 erreicht. Xiaomis UltraSpeed-Modus liefert ungefähr die fünfzehnfache Ausgabegeschwindigkeit des regulären ChatGPT-Erlebnisses – und das mit einem Modell, das bei Tests zur Softwareentwicklung bereits mit führenden Systemen konkurriert.

Hinter dieser Geschwindigkeit steckt MiMo V2.5 Pro, eine Mixture-of-Experts-Architektur mit 1,02 Billionen Parametern und einem Kontextfenster von einer Million Tokens. Anders als viele Konkurrenzmodelle verarbeitet das System Text, Bilder, Audio und Video nativ in einem einzigen Modell. Xiaomi hat den zugrunde liegenden Checkpoint unter einer MIT-Open-Source-Lizenz veröffentlicht. Entwickler können das System damit selbst hosten, feinabstimmen und ohne Lizenzgebühren kommerziell einsetzen.

Xiaomis überraschender Aufstieg im Bereich künstliche Intelligenz

Die meisten Verbraucher verbinden Xiaomi mit günstigen Smartphones, Elektrorollern und zunehmend auch Elektroautos. Im ersten Quartal 2026 lieferte das Unternehmen 33,8 Millionen Smartphones aus, allein im Mai kamen mehr als 30.000 Elektroautos hinzu. Hinter diesen Verbraucherprodukten steht jedoch eine eigene KI-Abteilung, die seit April 2025 große Sprachmodelle entwickelt. Damals brachte sie ein kompaktes Denkmodell mit 7 Milliarden Parametern auf den Markt.

In den 14 Monaten seither hat sich die MiMo-Familie zu einer der wettbewerbsfähigeren verfügbaren Open-Weight-Modellreihen entwickelt. Das aktuelle Spitzenmodell MiMo V2.5 Pro wurde am 22. April 2026 vorgestellt. Bei Aufgaben der Softwareentwicklung liegt es in Benchmarks nahe an Claude Opus 4.6, kostet pro Token aber etwa ein Achtel. Der reguläre Preis des Basismodells beträgt bei Cache-Treffern 0,025 Yuan pro Million Tokens, bei Cache-Fehltreffern 3 Yuan pro Million Eingabe-Tokens und 6 Yuan pro Million Ausgabe-Tokens.

Mit der Ankündigung vom 8. Juni kommt UltraSpeed als leistungsstarker Bereitstellungsmodus hinzu, der direkt auf dem bestehenden Modell aufsetzt. Die Geschwindigkeitsgewinne beruhen nicht auf geänderten Modellgewichten oder einer neuen Architektur, sondern ausschließlich auf der Optimierung der Inferenz – eine softwaretechnische Leistung, die Annahmen darüber infrage stellt, was handelsübliche Hardware leisten kann.

Der Preis der Geschwindigkeit in der modernen KI

Die Inferenzgeschwindigkeit ist zu einem entscheidenden Wettbewerbsfeld für große Sprachmodelle geworden. Wie schnell ein System Tokens erzeugt, bestimmt nicht nur, wie rasch Nutzer Antworten erhalten, sondern auch, welche Anwendungen wirtschaftlich und technisch sinnvoll sind. Ein Modell mit 68 Tokens pro Sekunde eignet sich gut für Chatoberflächen, bei denen Menschen in ihrem eigenen Tempo lesen. Für latenzkritische Aufgaben wie Betrugserkennung in Echtzeit, Hochfrequenzhandelssignale oder autonome Programmieragenten, die in Sekunden mehrere Denkschritte durchlaufen müssen, ist es völlig ungeeignet.

Um diesen Engpass zu überwinden, haben mehrere Start-ups ganze Unternehmen rund um maßgeschneiderte Chips aufgebaut. Cerebras entwickelte einen etwa tellergroßen Wafer-Scale-Chip mit 44 Gigabyte On-Chip-Speicher, um die Bandbreitenbeschränkungen zu beseitigen, die herkömmliche GPU-Inferenz ausbremsen. Dieses System erreichte bei Metas Llama 3.1 405B, einem Modell mit weniger als halb so vielen Parametern wie MiMo V2.5 Pro, ungefähr 969 Tokens pro Sekunde. Groq entwickelte eine maßgeschneiderte Architektur für Language Processing Units, die je nach Modell 300 bis 750 Tokens pro Sekunde erreicht. Keine der beiden Plattformen läuft auf Hardware, die über reguläre Cloud-Mietdienste verfügbar ist.

Xiaomi setzt dem Wettrüsten um Hardware einen anderen Ansatz entgegen. Durch die gemeinsame Optimierung von Software und Modelldesign erreichte das Unternehmen vergleichbare Geschwindigkeiten auf handelsüblichen, mietbaren GPUs. Theoretisch kann jeder Entwickler mit Zugang zu einem standardmäßigen Knoten mit acht GPUs das Ergebnis reproduzieren. Das könnte den Wettbewerbsvorteil von spezialisierten Chipherstellern hin zu algorithmischer Innovation verschieben.

Intelligenz komprimieren mit FP4-Quantisierung

Die erste Säule von UltraSpeed ist eine aggressive numerische Komprimierung namens FP4-Quantisierung. Bei der Inferenz werden Modellgewichte üblicherweise mit 16 oder 8 Bit Präzision gespeichert. Jeder Parameter beansprucht eine bestimmte Speicherbandbreite. Bei einer Billion Parametern entsteht allein durch das Übertragen dieser Gewichte aus dem Speicher zu den Rechenkernen ein Datenstau, der die Generierungsgeschwindigkeit begrenzt.

Xiaomis Lösung setzt gezielt 4-Bit-Präzision ein. Die Mixture-of-Experts-Architektur umfasst zahlreiche Expertenebenen, die den Großteil der Parameter enthalten und sich als toleranter gegenüber geringerer Präzision erweisen. Xiaomi komprimierte ausschließlich diese Expertenebenen auf das MXFP4-Format und beließ die übrigen Modellmodule bei einer höheren Präzision, laut Angaben FP8. Dieser gezielte Ansatz verringert den Speicherbedarf, ohne die Ausgabequalität zu beeinträchtigen, denn Quantization Aware Training integrierte die Komprimierung in den Lernprozess des Modells. Benchmarks zeigen, dass die quantisierte Variante im Wesentlichen gleichauf mit der ursprünglichen Version voller Präzision liegt.

Da die Expertenebenen den größten Teil des Modells ausmachen, verringert diese gezielte Komprimierung die Datenmenge, die während jedes Generierungsschritts durch den Speicher übertragen werden muss, erheblich. Die eingesparte Bandbreite schlägt sich direkt in einem höheren Durchsatz nieder.

Parallele Vorhersagen mit spekulativer DFlash-Decodierung

Die zweite Säule setzt an der sequenziellen Natur der Sprachgenerierung an. Normalerweise erzeugen Modelle Tokens nacheinander, wobei jedes neue Token von allen vorherigen abhängt. Spekulative Decodierung bietet eine Abkürzung: Ein kleineres Entwurfsmodell sagt rasch mehrere kommende Tokens voraus, und das größere Zielmodell überprüft alle Vorhersagen parallel. Stimmen die Vorhersagen, spart das System Zeit. Bei herkömmlicher spekulativer Decodierung muss das Entwurfsmodell die Tokens jedoch weiterhin nacheinander vorhersagen, was den möglichen Vorteil begrenzt.

DFlash, eine Methode aus der Forschungsgemeinschaft, die Xiaomi weiterentwickelt hat, beseitigt diese sequenzielle Einschränkung vollständig. Statt Tokens einzeln vorherzusagen, füllt das Entwurfsmodell in einem einzigen Vorwärtsdurchlauf einen ganzen Block maskierter Positionen aus. Xiaomi stimmte diesen Prozess mithilfe des Optimierers zweiter Ordnung Muon und durch modellinterne Destillation ab. Das Entwurfsmodell verwendet ausschließlich Sliding Window Attention. Dadurch bleiben die Rechenkosten pro Vorhersage konstant, unabhängig davon, wie lang das Gespräch wird.

Bei Programmieraufgaben erreicht das System pro Verifizierungsrunde eine durchschnittliche Akzeptanzlänge von 6,3 Tokens bei einer Blockgröße von höchstens 8. Das große Modell bestätigt also sechs oder sieben Tokens in einem einzigen Schritt, statt sie einzeln zu erzeugen. Da durch Reject Sampling nur gültige Tokens übernommen werden, bleibt die Ausgabe mathematisch identisch mit der herkömmlichen Decodierung. Die Geschwindigkeitssteigerung geht nicht zulasten der Qualität.

Mikrosekundenlücken mit TileRT beseitigen

Die dritte Säule zielt auf einen unsichtbaren Engpass, der erst bei extrem hohen Geschwindigkeiten auftritt. Überschreitet die Inferenz 1.000 Tokens pro Sekunde, dauert die Ausführung jedes mathematischen Operators nur wenige Mikrosekunden. Herkömmliche Bereitstellungssysteme starten die Operatoren nacheinander, mit kurzen Lücken zwischen den einzelnen Starts. Bei normalen Geschwindigkeiten sind diese Lücken vernachlässigbar. Auf UltraSpeed-Niveau unterbrechen sie den Ausführungsstrom und werden zum Hauptengpass.

TileRT, gemeinsam mit dem Inferenzpartner TileRT entwickelt, löst dieses Problem mit einem Persistent Engine Kernel, der dauerhaft auf der GPU aktiv bleibt. Statt Abläufe zu starten und anzuhalten, weist der Kernel mithilfe von Warp Specialization bestimmten Hardware-Threads koordinierte Aufgaben für Datenbewegung, Berechnungen und Kommunikation zu. Selbst sehr kleine Operationen wie RMSNorm, rotatorische Positions-Embeddings und KV-Cache-Schreibvorgänge, die normalerweise Verzögerungen im Mikrosekundenbereich verursachen, laufen ohne Unterbrechung ab.

Das System wurde gemeinsam mit den Entscheidungen für FP4 und DFlash entwickelt und nicht erst nachträglich ergänzt. Dieses extreme Co-Design von Modell und System sorgt dafür, dass alle drei Ebenen eng aufeinander abgestimmt sind. Xiaomi betont ausdrücklich, dass keine der drei Techniken allein 1.000 Tokens pro Sekunde erreicht. Erst ihr Zusammenspiel ermöglicht den Rekordwert.

Auswirkungen in der Praxis und geschäftlicher Kontext

Die Schwelle von 1.000 Tokens verändert, für welche Anwendungen sich Spitzenmodelle eignen. Paralleles Schlussfolgern wird praktikabel: Systeme können Dutzende Pfade nach dem Best-of-N-Verfahren oder per Tree Search in derselben Zeit durchlaufen, die ein langsameres Modell für einen einzigen Pfad benötigen würde. Programmieragenten profitieren, weil die schnellere Generierung Wartezeiten zwischen autonomen Schritten verkürzt. Echtzeit-Entscheidungsschleifen für Handelssignale, Betrugsabwehr und Live-Dialogsysteme werden umsetzbar, wenn die Latenz unter die menschliche Wahrnehmungsschwelle sinkt.

Xiaomi veranschaulichte den praktischen Effekt mit öffentlichen Demos. Ein vollständig funktionsfähiges Snake-Spiel entstand in etwa zehn Sekunden. Ein Prototyp einer macOS-Oberfläche war nach ungefähr einer Minute zu sehen. Bei solchen durch den Durchsatz begrenzten Aufgaben ist die reine Token-Geschwindigkeit der entscheidende Faktor.

Der Zugang zu UltraSpeed erfolgt über einen begrenzten, antragsbasierten API-Test vom 9. bis zum 23. Juni 2026. Der Preis beträgt das Dreifache des regulären Tarifs für MiMo V2.5 Pro. Nach aktuellen Wechselkursberechnungen entspricht das ungefähr 1,29 US-Dollar pro Million Eingabe-Tokens und 2,61 US-Dollar pro Million Ausgabe-Tokens. Xiaomi verspricht dafür eine etwa zehnmal höhere Generierungsgeschwindigkeit. Das Token-Plan-Abonnement gilt nicht für UltraSpeed. Zugelassene Nutzer erhalten zwei Wochen lang kostenlosen Chat-Zugang mit täglichen Beschränkungen: zehn Warteschlangeneinträge pro Konto, Sitzungen von höchstens 30 Minuten und automatische Freigabe der Ressourcen nach fünf Minuten Inaktivität.

Trotz dieser technischen Meilensteine haben die Finanzmärkte kaum reagiert. Die Xiaomi-Aktie schloss am 11. Juni bei 2,91 Euro und lag damit nur 1,75 Prozent über ihrem 52-Wochen-Tief. Seit Jahresbeginn hat sie 35 Prozent verloren. Das Unternehmen diversifiziert sein Geschäft weiter: Am selben Tag, an dem der Assistent MiMo Code veröffentlicht wurde, brachte es in Indien das Premium-Smartphone 17T auf den Markt und treibt gemeinsam mit der Stadt Changchun den Ausbau seines Elektroautogeschäfts voran. Ob die operative Dynamik die Aktienentwicklung umkehren kann, hängt von den anstehenden Geschäftszahlen ab.

Open-Source-Veröffentlichung und die Frage der Überprüfung

Xiaomi hat den FP4-DFlash-Checkpoint von MiMo V2.5 Pro auf Hugging Face als Open Source veröffentlicht, einschließlich quantisierter Gewichte und DFlash-Parameter. TileRT hat ausgewählte Module auf GitHub veröffentlicht. Diese Transparenz lädt zu unabhängigen Tests durch die Community ein. Sie werden entscheidend sein, denn bislang stammen sämtliche Geschwindigkeitsangaben aus internen Benchmarks von Xiaomi. Eine unabhängige Überprüfung durch Dritte liegt noch nicht vor.

Tests durch die Community werden mehrere offene Fragen klären. Erstens, ob die Angabe von 1.000 Tokens pro Sekunde auch auf gängigen GPU-Instanzen außerhalb der kontrollierten Testumgebung von Xiaomi Bestand hat. Zweitens, ob bei offenen Gesprächsaufgaben Qualitätseinbußen auftreten, bei denen die Akzeptanzraten der spekulativen Decodierung derzeit niedriger sind als bei strukturierten Programmieraufgaben. Drittens, ob sich der Persistent-Kernel-Ansatz von TileRT in gängige Bereitstellungsstacks integrieren lässt, die bereits in Produktionsumgebungen eingesetzt werden.

Bestätigen unabhängige Tests die Angaben, hätte Xiaomi mit Software erreicht, wofür Wettbewerber Hunderte Millionen Dollar in maßgeschneiderte Chips investiert haben. Das würde darauf hindeuten, dass algorithmisches Co-Design Leistungsklassen erschließen kann, für die bislang spezialisierte Hardware als erforderlich galt, und könnte Investitionen in der gesamten KI-Branche umlenken.

Die wichtigsten Punkte

• Xiaomis MiMo V2.5 Pro UltraSpeed überschritt bei seiner Vorstellung am 8. Juni 2026 als erstes Modell mit einer Billion Parametern auf handelsüblichen Standard-GPUs die Marke von 1.000 Tokens pro Sekunde.
• Die Geschwindigkeit beruht auf drei abgestimmten Techniken: FP4-Quantisierung der Expertenebenen, spekulative DFlash-Decodierung in Blöcken und der persistenten GPU-Laufzeitumgebung TileRT.
• Das zugrunde liegende Modell MiMo V2.5 Pro liegt bei Programmieraufgaben in Benchmarks nahe an Claude Opus 4.6, kostet pro Token aber etwa ein Achtel.
• Anders als Wettbewerber wie Cerebras und Groq erzielte Xiaomi den Rekord ohne maßgeschneiderte Chips, sondern mit einem standardmäßigen Knoten mit acht GPUs, wie er bei Cloud-Anbietern verfügbar ist.
• Der FP4-DFlash-Checkpoint von MiMo V2.5 Pro steht unter einer MIT-Open-Source-Lizenz auf Hugging Face bereit, TileRT-Module gibt es auf GitHub.
• Ein begrenzter API-Test läuft vom 9. bis zum 23. Juni 2026. Der Preis beträgt das Dreifache des regulären Tarifs, dafür wird eine etwa zehnmal höhere Generierungsgeschwindigkeit geboten.
• Obwohl die Aktie seit Jahresbeginn bis Mitte Juni 2026 um 35 Prozent gefallen ist, notiert sie trotz des technischen Durchbruchs weiterhin nahe ihrem 52-Wochen-Tief.