Moonshot veröffentlicht Kimi-K3.1-Pro-Gewichte, Huawei und Alibaba erweitern Bereitstellungsunterstützung

Ein Modell mit 2,8 Billionen Parametern geht über die API hinaus

Moonshot AI hat die vollständigen Gewichte von Kimi K3.1 Pro auf Hugging Face veröffentlicht. Damit können Entwickler und Unternehmen das multimodale Spitzenmodell auf ihrer eigenen Recheninfrastruktur betreiben. Die Ankündigung erfolgte am frühen Morgen des 5. November in Peking. Zuvor war das Modell am 24. Oktober 2026 über die Kimi-Produkte und die Programmierschnittstelle des Unternehmens, die API, verfügbar gemacht worden.

K3.1 Pro enthält 2,8 Billionen Parameter, also numerische Einstellungen, in denen gespeichert ist, was ein Modell gelernt hat. Bei seinem Mixture-of-Experts-Design werden pro Inferenzschritt rund 104 Milliarden Parameter aktiviert, statt das gesamte Modell auf einmal zu verwenden. Das Modell unterstützt einen Kontext von ungefähr einer Million Tokens und kann neben Text auch visuelle Informationen verstehen.

Huawei Ascend und Alibaba Cloud kündigten noch am Tag der Gewichtsveröffentlichung Unterstützung an. Ihre Bereitstellungen nutzen die Inferenz-Frameworks vLLM und SGLang, also Software zur Steuerung der Verarbeitung von Anfragen durch trainierte Modelle. Für Unternehmen, die einen lokalen Betrieb erwägen, bietet die Veröffentlichung sowohl herunterladbare Gewichte als auch erste Möglichkeiten, das Modell auf chinesischen Beschleunigersystemen einzusetzen.

In seiner am 24. Oktober aktualisierten Ankündigung zur Modelleinfürung hatte Moonshot erklärt, die vollständigen Gewichte würden bis zum 4. November veröffentlicht. Die öffentliche Ankündigung der Veröffentlichung folgte am 5. November. Zuvor hatte das Unternehmen den Zugang bereits über kimi.com, Kimi App, Kimi Work, Kimi Code und Kimi API geöffnet.

Die praktische Neuerung besteht darin, dass sich nun kontrollieren lässt, wo das Modell läuft. Wer die API nutzt, sendet Anfragen an den Dienst eines Anbieters. Eine Organisation, die die Gewichte einsetzt, kann das Modell in einer von ihr verwalteten Infrastruktur betreiben, vorbehaltlich der Lizenz von Moonshot und der beträchtlichen Hardwareanforderungen.

Moonshot stellte außerdem Kimi Hosted Agents vor, einen verwalteten Dienst, mit dem KI-Agenten auch über längere Aufgaben hinweg betrieben werden können. Zusammengenommen bieten die Ankündigungen Unternehmen zwei Möglichkeiten: das Modell selbst zu verwalten oder einen größeren Teil des Betriebs an Kimi zu übergeben.

Was ist neu, und was bleibt von K3 erhalten?

Kimi K3.1 Pro baut durch zusätzliches Training auf der K3-Basis auf, statt mit einer neu trainierten Grundlage zu beginnen. Moonshot zufolge wurden die Rechenressourcen für das Reinforcement Learning deutlich erhöht. Bei diesem Verfahren werden erfolgreiche Aktionen belohnt, sodass sich ein Modell durch wiederholte Versuche verbessern kann.

Moonshot setzte dieses Training in Hunderten Aufgabenbereichen ein, mit besonderem Schwerpunkt auf Programmierung, 3D-Erstellung, Finanzrecherche und Agenten, die mehrstufige Aufgaben bearbeiten. Die technischen Änderungen betrafen die Trainingssoftware, die Verarbeitung langer Kontexte, die Aufgabenplanung und Sandbox-Umgebungen, in denen generierter Code ausgeführt werden kann.

Das Kontextfenster von ungefähr einer Million Tokens wurde von K3 übernommen. Tokens sind die Einheiten, in die ein Modell Text und andere Eingaben aufteilt. Ein größeres Kontextfenster ermöglicht es, bei einer Anfrage mehr Dokumente, Anweisungen und vorherige Gesprächsinhalte zu berücksichtigen.

Die Veröffentlichungsabfolge trennt den Zugang zum Dienst vom Zugang zum Modell selbst:

• 16. Juli 2026: Kimi K3 wurde vorgestellt, wie aus dem veröffentlichten Modellvergleich hervorgeht.
• 24. Oktober 2026: Moonshot führte K3.1 Pro über seine Produkte und API ein; die Gewichte sollten bis zum 4. November veröffentlicht werden.
• 5. November: Moonshot kündigte die Veröffentlichung der Gewichte und Kimi Hosted Agents an; Huawei und Alibaba gaben Unterstützung für die Bereitstellung bekannt.

Offene Gewichte unterliegen Betriebs- und Lizenzbedingungen

Organisationen mit ausreichender Rechenkapazität können die Gewichte herunterladen und K3.1 Pro eigenständig betreiben. Unternehmen können ihre eigenen Bereitstellungssysteme konfigurieren, interne Tools anbinden und im Rahmen der geltenden Lizenz spezielle Anpassungen vornehmen.

Für die kommerzielle Nutzung gilt eine von Moonshot erstellte Lizenz. Die Veröffentlichung umfasst die Modellgewichte, während der Trainingscode und die ursprünglichen Trainingsdatensätze unveröffentlicht bleiben. Entwickler erhalten somit das trainierte Modell mit den von Moonshot festgelegten Nutzungsrechten, aber kein vollständiges Trainingspaket im Sinne der Definition der Open Source Initiative.

Die Größe des Modells bleibt ein wichtiger Faktor für den Betrieb. Zwar ist bei jedem Schritt nur ein Teil des Mixture-of-Experts-Netzwerks aktiv, für die Bereitstellung muss aber dennoch auf den gesamten Gewichtssatz zugegriffen werden können. Bei langen Anfragen fallen zudem große Mengen temporärer Aufmerksamkeitsdaten an, die während der Verarbeitung gespeichert werden müssen.

Huawei verteilt die Speicherlast auf Ascend-Systeme

Huawei zufolge schloss das Ascend-Team die Anpassung am Tag der Veröffentlichung der K3.1-Pro-Gewichte ab und ermöglichte so eine umgehende Überprüfung der Bereitstellung. Unterstützt werden die Systeme Atlas 800 A3, Atlas 900 A3 SuperPod und Ascend 950 Supernode über vLLM Ascend und SGLang.

Die Anpassung berücksichtigt die hybride Aufmerksamkeitsarchitektur des Modells, darunter Sparse Attention und multimodale Verarbeitung. Aufmerksamkeit ist der Mechanismus, mit dem ein Modell bestimmt, welche Teile seiner Eingabe für den nächsten Schritt wichtig sind. Sparse Attention beschränkt einen Teil dieser Verbindungen, um den Aufwand bei sehr langen Eingaben zu reduzieren.

Ascend nutzt verteiltes Caching, um temporäre Modelldaten auf mehrere Neural Processing Units (NPUs) zu verteilen und so den Speicherbedarf jedes Beschleunigers zu senken. Huawei beschreibt außerdem Änderungen an grundlegenden mathematischen Operationen, durch die unnötige Kopier- und Rechenvorgänge reduziert werden.

Betreiber können die Originalgewichte laden oder für verschiedene Modellkomponenten eine niedrigere Bit-Präzision verwenden und zusätzlich die Aufmerksamkeits-Caches quantisieren. Bei der Quantisierung werden Zahlen mit weniger Bits gespeichert, was den Speicherbedarf verringert. Huawei zufolge bleiben bei der Implementierung Präfix-Caching, das wiederholte Eingaben wiederverwendet, Chunked Prefill, das lange Prompts abschnittsweise verarbeitet, und spekulative Inferenz erhalten. Letztere beschleunigt die Generierung, indem vorgeschlagene Tokens gruppenweise überprüft werden.

Alibaba bietet über seine SuperPoD-Plattform einen weiteren Bereitstellungsweg

Alibaba Cloud zufolge schloss Lingjun Zhenwu M890 SuperPoD die Anpassung und Validierung über den gesamten Software-Stack für vLLM und SGLang ab. Unterstützt werden auch Zhenwu-810E-Konfigurationen, wodurch ein weiterer Bereitstellungsweg auf chinesischen Beschleunigern zur Verfügung steht.

Alibaba Cloud, T-Head und das Kimi-Team arbeiteten am Software-Stack T-Head SAIL, darunter FlashMLA, DeepGEMM-Operationen für Mixture of Experts, MegaMoE und MoonEP. Diese Komponenten übernehmen Aufmerksamkeitsberechnungen und die Verteilung der Arbeit auf Experten und Beschleuniger. Kunden können das Modell auf dedizierten Bare-Metal-SuperPoD-Instanzen oder über Alibabas REIN-Dienst bereitstellen. API-Zugriff ist außerdem über Alibabas Qwen-KI-Plattform verfügbar.

Alibaba eröffnete Tests auf Einladung in einer SuperPoD-Region in Zhongwei in der Provinz Ningxia. Zum Start wurden außerdem Instanzen in Zhongwei und Ulanqab bereitgestellt. Die Konfiguration in Zhongwei ergänzt T-Heads Netzwerkkarte Panmai 920, die laut Alibaba PCIe 5.0, 112G-PAM4-Ethernet, einen Durchsatz von bis zu 400 Gigabit pro Sekunde und 400 Millionen Pakete pro Sekunde unterstützt.

Diese Netzwerkdaten sind relevant, weil bei einem derart großen Modell Informationen schnell zwischen Prozessoren übertragen werden müssen. Alibaba zufolge kann der integrierte PCIe-Switch der Karte die Systemkosten um etwa 30 Prozent senken. Das Unternehmen erklärt außerdem, dass M890 SuperPoD mehr als 100 Großkunden bedient, und erwartet für den geplanten Nachfolger V900 etwa die dreifache Leistung der aktuellen Generation. Dabei handelt es sich um eine Prognose des Unternehmens.

Programmiertests zeigen Fortschritte bei der längerfristigen Ausführung

Moonshot gibt für Terminal-Bench 4.0 einen Wert von 65,7 Prozent an. Der Test prüft Agenten bei Terminalaufgaben in realen Computerumgebungen und unter begrenzten Ressourcen. Im veröffentlichten Vergleich erreicht GPT-6 Astra 58,2 Prozent und Claude Opus 5.5 66,4 Prozent. K3.1 Pro liegt in diesem Testaufbau damit 0,7 Prozentpunkte hinter letzterem.

Im hauseigenen Kimi Code Bench 3.0 Long-horizon stieg der Wert von K3 mit 55,95 Prozent auf 61,2 Prozent für K3.1 Pro, eine Verbesserung um 5,25 Prozentpunkte. Der Test konzentriert sich auf Planung, den Einsatz von Tools und die mehrstufige Lösung technischer Aufgaben.

Unabhängige Auswertungen vermitteln ein weiteres Bild. Artificial Analysis verzeichnete einen Anstieg des Intelligence Index von 44 auf 55 sowie rund 67 Prozent bei Terminal-Bench für K3.1 Pro gegenüber 13 Prozent für K3. Bei der Terminal-Auswertung kam ein anderes Agenten-Framework als bei Moonshot zum Einsatz; die Ergebnisse beziehen sich daher auf unterschiedliche Betriebsumgebungen.

Moonshots Demonstrationen heben neben der Codegenerierung auch die Ausdauer des Modells hervor. Bei einem internen Versuch arbeitete das Modell an einer Gehsimulation mit 296 Skelett- und 402 Muskelkomponenten. Nach Angaben des Unternehmens verbesserte es bei 167 Aufgaben und 420 unabhängigen Bewertungen die kontinuierliche Gehzeit des simulierten Körpers auf 11,2 Sekunden und korrigierte 36 Fehler in den Berechnungen der Schultermuskulatur.

Eine separate Plotly-Auswertung ergab 42 richtige Antworten von 43 für K3.1 Pro, gegenüber 35 für K3. Gleichzeitig waren die Kosten höher und die mittlere Bearbeitungszeit länger. Eine schnellere Token-Generierung und bessere Antworten können also mit einer längeren Wartezeit bis zum Abschluss einer Aufgabe einhergehen.

3D-Erstellung und Finanzbereich profitieren von gezielten Verbesserungen

Mit Tools erreichte K3.1 Pro laut Moonshot bei BenchCAD 92,7 Prozent. Der Benchmark prüft, ob ein Modell 3D-Objekte anhand verschiedener Ansichten rekonstruieren kann, indem es CAD-Code generiert. Im Unternehmensvergleich werden für Claude Opus 5.5 96,2 Prozent und für GPT-6 Astra 95,9 Prozent angegeben.

Moonshot zufolge kann das Modell Skripte für professionelle Modellierungswerkzeuge wie Blender und CAD-Software schreiben und ausführen. Zu den Beispielen des Unternehmens zählen ein Turbofan-Triebwerk mit 2.100 Volumenkörpern in FreeCAD und eine für den 3D-Druck in fünf Teile aufgeteilte Lampe. Auf der Kimi-Website und in der App ist außerdem 3D Make verfügbar, um Modelle in der Vorschau anzusehen, zu bearbeiten und zu exportieren.

Auch Finanzaufgaben gehören zu den zentralen Anwendungsbereichen. Moonshot gibt für OfficeQA Pro v2, einen Test zur Analyse realer Finanzdokumente durch Informationssuche, dokumentübergreifende Prüfungen und numerisches Schlussfolgern, einen Wert von 64,4 an. Bei internen Auswertungen verbesserte sich die Finanzmodellierung um 14 Prozent, die Finanzrecherche um 20 Prozent. Bei simulierten Geschäftsabläufen erreichte das Modell etwa das 4,2-Fache des K3-Werts.

Der veröffentlichte Vergleich enthält die zugrunde liegenden Werte für zwei dieser Tests: Finanzrecherche stieg von 58,8 auf 70,4, Geschäftsabläufe von 8,9 auf 37,0. Für Geschäftskunden besteht der angestrebte Nutzen darin, dass das Modell eine Aufgabe von der Informationssuche und den Berechnungen bis hin zu einer fertigen Arbeitsmappe oder einem Rechercheergebnis bearbeiten kann.

Moonshot veröffentlicht zwei unterschiedliche Ergebnisse zu sachlichen Fehlern

Laut Moonshots Einführungsankündigung sank die Fehlerquote bei einzelnen Tatsachenbehauptungen im Kimi Hallu Bench Hard von 23,4 Prozent bei K3 auf 8,3 Prozent bei K3.1 Pro. Der API-Leitfaden nennt für einen anderen Stresstest einen Rückgang von 23,35 auf 6,85 Prozent. Dabei wurden anonymisierte Gespräche ausgewertet, die Nutzer wegen sachlicher Fehler gemeldet hatten.

Auch bei den Angaben auf Antwortebene unterscheiden sich die beiden Seiten. Laut Einführungsankündigung lag der Anteil der Antworten mit mindestens einem sachlichen Fehler bei K3.1 Pro bei etwa 42,4 Prozent des K3-Werts; im API-Leitfaden werden etwa 46,4 Prozent genannt. Moonshot hat den Zusammenhang zwischen diesen Auswertungen nicht erläutert.

Beide Beschreibungen beziehen sich auf schwierige Beispiele, bei denen Modelle besonders fehleranfällig sind. Bei Finanz- und Geschäftsanwendungen müssen Berechnungen, Quellenangaben und Tatsachenbehauptungen weiterhin anhand der zugrunde liegenden Unterlagen geprüft werden, bevor auf Basis der Ergebnisse gehandelt wird.

Der unabhängige Vergleich verzeichnete zudem einen leichten Rückgang bei einem Test mit langem Kontext: AA-LCR v1.1 sank von 88,7 Prozent bei K3 auf 86,3 Prozent bei K3.1 Pro. Organisationen, die umfangreiche Dokumente verarbeiten, müssen neben der unveränderten Kontextkapazität auch die Genauigkeit beim Abruf von Informationen berücksichtigen.

Hosted Agents und API-Zugriff bieten unterschiedliche Vor- und Nachteile

Kimi Hosted Agents stellt das Betriebs-Framework bereit, das häufig als Harness bezeichnet wird und ein KI-Modell umgibt. Dieses Framework verwaltet Tools, Codeausführung, Kontext, Berechtigungen und die Wiederaufnahme unterbrochener Aufgaben. Moonshot zufolge unterstützt der Dienst den Dauerbetrieb, langwierige Aufgaben und die Zusammenarbeit mehrerer Agenten.

Moonshot nennt interne Überwachung und betriebliche Reaktionen als mögliche Anwendungsbereiche, außerdem Rechercheassistenten und Supportdienste für Kunden. Unternehmen, die den verwalteten Dienst nutzen, definieren Aufgaben und binden Tools an, während Kimi die zugrunde liegende Laufzeitumgebung betreibt. Unternehmen, die die Gewichte selbst einsetzen, sind für ihre Bereitstellung und den Betrieb verantwortlich.

Für API-Kunden schreibt Moonshots Schnellstartanleitung für die API eine Aufladung von mindestens 10 Yuan vor, um K3.1 Pro freizuschalten. Der 15-Yuan-Gutschein für neu registrierte Nutzer kann nicht für dieses Modell verwendet werden. Die Anleitung bietet niedrige, hohe und maximale Reasoning-Einstellungen; standardmäßig ist die maximale Einstellung aktiv. Für die Cache-Aufbewahrung stehen fünf Minuten oder eine Stunde zur Auswahl.

Moonshot bietet außerdem K3.1 Pro Highspeed an. Nach Angaben des Unternehmens liefert diese Variante dieselbe Intelligenz bei etwa zwei- bis dreifacher Ausgabegeschwindigkeit. Im veröffentlichten Vergleich liegen die Standardpreise für Eingabe und Ausgabe bei 2 beziehungsweise 10 US-Dollar pro Million Tokens, gegenüber 3 und 15 US-Dollar bei K3. Das entspricht einer Senkung um ein Drittel, noch ohne Cache-Kosten und sonstige anfallende Gebühren. Die Gesamtkosten hängen weiterhin davon ab, wie viele Tokens und Tool-Interaktionen eine Aufgabe benötigt.

Für Entwickler gelten einige besondere Integrationsanforderungen: Vollständige Assistant-Nachrichten müssen über Tool-Aufrufe hinweg erhalten bleiben, visuelle Eingaben müssen als Base64-Daten oder hochgeladene Datei-IDs und nicht als öffentliche Bild-URLs übermittelt werden, und die Anleitung rät davon ab, das Websuch-Tool in der Produktion einzusetzen, solange es aktualisiert wird.

Die wichtigsten Punkte

• Moonshot kündigte die Kimi-K3.1-Pro-Gewichte am 5. November an, nachdem das Modell bereits über Produkte und API verfügbar war.
• Das Modell hat insgesamt 2,8 Billionen Parameter, aktiviert pro Inferenzschritt etwa 104 Milliarden Parameter und unterstützt einen Kontext von ungefähr einer Million Tokens.
• Huawei Ascend und Alibaba Cloud kündigten Unterstützung für die Bereitstellung über vLLM und SGLang an.
• Moonshot meldet Verbesserungen bei Programmierung, 3D-Modellierung und Finanzaufgaben. Die Ergebnisse variieren je nach Aufgabe und Testaufbau.
• Der eigenständige Betrieb erfordert erhebliche Rechenressourcen und die Einhaltung der von Moonshot erstellten Lizenz.
• Kimi Hosted Agents bietet eine verwaltete Alternative für langwierige Aufgaben und die Koordination mehrerer Agenten.