Alibabas extrem dünn besetzte Coding-KI fordert die Dominanz des Silicon Valley heraus

Alibabas extrem dünn besetzte Coding-KI fordert die Dominanz des Silicon Valley heraus

Der chinesische Technologiekonzern Alibaba hat Qwen3-Coder-Next veröffentlicht, ein quelloffenes Coding-Modell, das mit proprietären Systemen von OpenAI und Anthropic konkurrieren kann und dabei nur einen Bruchteil der Rechenressourcen benötigt. Das Modell mit 80 Milliarden Parametern aktiviert bei jedem Vorwärtsdurchlauf durch seine extrem dünn besetzte Mixture-of-Experts-Architektur lediglich 3 Milliarden Parameter. So können Entwickler anspruchsvolle Coding-Agenten auf lokaler Hardware betreiben, ohne die bei großen Sprachmodellen üblichen Latenzen und Kosten in Kauf nehmen zu müssen. Dieser Ansatz stellt einen grundlegenden Wandel in der Wirtschaftlichkeit der KI-Entwicklung dar und zeigt, dass anspruchsvolle Schlussfolgerungsfähigkeiten nicht zwangsläufig einen enormen Rechenaufwand erfordern.

Die Veröffentlichung fällt in eine hektische Phase des Marktes für KI-Coding-Assistenten. Anthropic stellte kürzlich Effizienzverbesserungen für Claude Code vor, OpenAI brachte seine Codex-Anwendung auf den Markt, und Open-Source-Frameworks wie OpenClaw haben in der Community rasch Verbreitung gefunden. Alibaba hebt sich mit einer Kombination aus einer großzügigen Open-Source-Lizenzierung unter Apache 2.0 und architektonischen Neuerungen ab, die die Annahme infrage stellen, größere Modelle seien immer leistungsfähiger. Die Modellgewichte sind auf Hugging Face in mehreren Varianten verfügbar, darunter in den Formaten FP8 und GGUF für unterschiedliche Einsatzszenarien. Hinzu kommt ein technischer Bericht, der Trainingsmethodik und Architekturentscheidungen erläutert.

Unabhängige Benchmarks bestätigen Alibabas Effizienzversprechen. Tests mit verschiedenen Hardwarekonfigurationen ergaben für Qwen3-Coder-Next eine Geschwindigkeit von 172 Tokens pro Sekunde bei einem Qualitätswert von 9,9 von 10 Punkten für Coding-Aufgaben. Diese Leistung zeigt, dass Entwickler bei der Wahl lokaler Entwicklungstools nicht länger zwischen Geschwindigkeit und Genauigkeit abwägen müssen. Das Modell unterstützt 370 Programmiersprachen, deutlich mehr als die 92 Sprachen früherer Versionen, und verfügt nativ über ein Kontextfenster von 256.000 Tokens, das sich mithilfe von Extrapolationstechniken auf eine Million Tokens erweitern lässt.

Wie die hybride Architektur die Speichergrenze überwindet

Herkömmliche Transformer-Modelle stoßen an eine kritische Grenze, die als quadratisches Skalierungsproblem bekannt ist. Mit zunehmender Größe des Kontextfensters werden Standard-Attention-Mechanismen rechnerisch untragbar, weil die Verarbeitungskosten quadratisch mit der Sequenzlänge steigen. Dadurch entsteht eine Speichergrenze, die Modelle daran hindert, große Codebasen oder lange Unterhaltungen effizient zu verarbeiten. Qwen3-Coder-Next begegnet diesem Problem mit einer hybriden Architektur aus Gated DeltaNet und Gated Attention. Damit wird grundlegend neu gedacht, wie Sprachmodelle Informationen über lange Kontexte hinweg verarbeiten.

Gated DeltaNet bietet eine Alternative zu herkömmlicher Softmax-Attention mit linearer Komplexität. Das Modell kann so über sein Kontextfenster von einer Viertelmillion Tokens hinweg einen Zustand aufrechterhalten, ohne die für Schlussfolgerungen über lange Zeiträume typischen exponentiellen Latenzsteigerungen hinnehmen zu müssen. In Verbindung mit dem extrem dünn besetzten MoE-Design ermöglicht diese Architektur bei Aufgaben auf Repository-Ebene einen theoretischen Durchsatz, der zehnmal höher ist als bei dichten Modellen mit vergleichbarer Gesamtkapazität. Ein Agent kann praktisch eine ganze Python-Bibliothek oder ein komplexes JavaScript-Framework einlesen und mit der Geschwindigkeit eines Modells mit 3 Milliarden Parametern antworten, während er zugleich das strukturelle Verständnis eines Systems mit 80 Milliarden Parametern bewahrt.

Um Halluzinationen über den Kontext während des Trainings zu verhindern, nutzte das Entwicklungsteam Best-Fit Packing. Diese Strategie erhält die Effizienz aufrecht und vermeidet zugleich die Abschneidefehler, die bei herkömmlichen Methoden zum Aneinanderfügen von Dokumenten auftreten. Die Architektur umfasst außerdem Stabilitätsoptimierungen wie zentrierte und mit Gewichtszerfall versehene Layer-Normalisierungstechniken, die sowohl während des Vor- als auch des Nachtrainings eine robuste Leistung gewährleisten. Zudem unterstützt das Design Multi-Token Prediction: Dabei werden mehrere zukünftige Tokens gleichzeitig statt nacheinander vorhergesagt, was die Leistung beim Vortraining verbessert und die Inferenz beschleunigt.

Training mit Agenten im Fokus: Über statische Codepaare hinaus

Traditionell wurden Coding-Modelle anhand statischer Code-Text-Paare trainiert. Dieses im Wesentlichen rein lesende Trainingsverfahren schränkte ihre Fähigkeit ein, mit dynamischen Entwicklungsumgebungen zu interagieren. Qwen3-Coder-Next bricht mit dieser Tradition und setzt auf eine umfangreiche agentenbasierte Trainingspipeline, durch die 800.000 überprüfbare Coding-Aufgaben aus realen Szenarien entstanden. Dabei handelte es sich nicht um einfache Codeausschnitte, sondern um konkrete Situationen zur Fehlerbehebung, die aus GitHub-Pull-Requests gewonnen und mit vollständig ausführbaren, containerisierten Umgebungen kombiniert wurden.

Die Trainingsinfrastruktur namens MegaFlow ist ein cloudnatives Orchestrierungssystem auf Basis von Alibaba Cloud Kubernetes. Jede agentenbasierte Aufgabe folgt einem dreistufigen Ablauf: Agentenlauf, Bewertung und Nachbearbeitung. Während des Agentenlaufs interagiert das Modell mit laufenden containerisierten Umgebungen und erhält unmittelbar Rückmeldung, wenn generierter Code Unit-Tests nicht besteht oder Container zum Absturz bringt. Durch dieses geschlossene Lernsystem kann das Modell mittels bestärkenden Lernens während des Zwischentrainings aus Rückmeldungen der Umgebung lernen. So lernt es, Fehler zu beheben und Lösungen in Echtzeit zu verbessern, statt lediglich korrekte Antworten auswendig zu lernen.

Im Training stand das Verständnis ganzer Repositories im Mittelpunkt, nicht die Analyse einzelner Dateien. Das Zwischentraining wurde auf rund 600 Milliarden Tokens an Daten auf Repository-Ebene ausgeweitet. Das erwies sich für die Logik dateiübergreifender Abhängigkeiten als wirkungsvoller als Datensätze auf Dateiebene allein. So kann das Modell komplexe Beziehungen zwischen verschiedenen Komponenten einer Codebasis verstehen, eine entscheidende Fähigkeit für umfangreiche Softwareentwicklungsprojekte. Außerdem umfasst das System spezialisierte Expertenmodelle für bestimmte Bereiche, darunter Webentwicklung und die Optimierung der Benutzererfahrung. Ihr Wissen wurde später in das Hauptmodell destilliert, damit die leichtgewichtige Version für den Einsatz vor Ort differenziertes Fachwissen behält.

Benchmark-Ergebnisse auf Augenhöhe mit proprietären Spitzenmodellen

Beim SWE-Bench Verified, dem maßgeblichen Benchmark zur Bewertung der Fähigkeit von KI-Modellen, reale Softwareprobleme zu lösen, erreichte Qwen3-Coder-Next 70,6 Prozent. Damit liegt das Modell vor DeepSeek-V3.2 mit 70,2 Prozent und nicht weit hinter GLM-4.7 mit 74,2 Prozent. Besonders bemerkenswert sind diese Ergebnisse, weil das Alibaba-Modell nur 3 Milliarden aktive Parameter nutzt, während konkurrierende Systeme auf deutlich mehr aktive Parameter zurückgreifen. Beim anspruchsvolleren Benchmark SWE-Bench Pro zeigte das Modell besondere Stärken beim langfristigen Schlussfolgern in mehrstufigen Agentenaufgaben.

Die Fähigkeiten des Modells reichen über die Erzeugung funktionalen Codes hinaus und umfassen auch sicherheitsbewusste Entwicklung. Beim SecCodeBench, der die Fähigkeit eines Modells zur Behebung von Sicherheitslücken bewertet, übertraf Qwen3-Coder-Next Claude-Opus-4.5 in Szenarien zur Codegenerierung mit 61,2 Prozent gegenüber 52,5 Prozent. Bemerkenswert ist, dass das Modell auch ohne Sicherheitshinweise hohe Werte erzielte. Das deutet darauf hin, dass ihm die Trainingsphase mit 800.000 agentenbasierten Aufgaben ein grundlegendes Bewusstsein für häufige Sicherheitsrisiken vermittelt hat. Bei mehrsprachigen Sicherheitsbewertungen zeigte das Modell ein überzeugendes Gleichgewicht zwischen funktionaler und sicherer Codegenerierung und übertraf beim Benchmark CWEval sowohl DeepSeek-V3.2 als auch GLM-4.7 mit einem func-sec@1-Wert von 56,32 Prozent.

Auch abseits spezifischer Coding-Benchmarks zeigt die zugrunde liegende Qwen3-Next-Architektur starke Fähigkeiten zum allgemeinen Schlussfolgern. Die Denkvariante des Basismodells übertrifft Konkurrenzmodelle bei komplexen Aufgaben, darunter Mathematik und logisches Schlussfolgern mit gesundem Menschenverstand. Bei Bewertungen agentenbasierter Fähigkeiten wie BFCL-v3 und den TAU-Benchmarks zeigt das Modell Kompetenzen im Umgang mit Werkzeugen und bei der autonomen Ausführung von Aufgaben, die denen größerer proprietärer Alternativen entsprechen oder sie übertreffen.

Sicherheitsfähigkeiten und Kontroversen

Während die Benchmark-Ergebnisse die Fähigkeit des Modells zur Erzeugung sicheren Codes hervorheben, haben einige Cybersicherheitsexperten vor den Risiken gewarnt, die mit der Einführung von KI-Coding-Tools verbunden sind, die im Rahmen der nationalen Sicherheitsvorgaben Chinas entwickelt wurden. Jurgita Lapienyė, Chefredakteurin bei Cybernews, warnte, eine breite Nutzung durch westliche Entwickler könne unauffällige Schwachstellen in komplexen Codebasen einschleusen.

Entwickler könnten schlafwandlerisch in eine Zukunft geraten, in der Kernsysteme unbemerkt mit anfälligem Code erstellt werden.

Nach Chinas Nationalem Nachrichtendienstgesetz müssen Unternehmen wie Alibaba mit Behördenanfragen zu Daten und KI-Modellen kooperieren. Dadurch könnten Szenarien entstehen, in denen generierter Code absichtlich verschleierte Schwachstellen enthält. Die Bedenken betreffen Angriffsvektoren in der Lieferkette, ähnlich wie beim SolarWinds-Vorfall, bei dem eine langfristige Infiltration über vertrauenswürdige Software-Updates erfolgte. Kritiker argumentieren, dass autonome Coding-Agenten, die ganze Codebasen durchsuchen und eigenständig Änderungen vornehmen können, theoretisch dazu umfunktioniert werden könnten, Systemabwehrmaßnahmen zu verstehen und gezielte Exploits zu entwickeln. Das Risiko liegt nicht in offensichtlichen Fehlern, sondern in kleinen, schwer erkennbaren Problemen, die harmlosen Designentscheidungen ähneln und bei üblichen Codeprüfungen unentdeckt bleiben.

Befürworter des Open-Source-Ansatzes verweisen darauf, dass die Modellgewichte unter der Apache-2.0-Lizenz vollständig einsehbar sind und Organisationen das System vor dem Einsatz prüfen können. Sicherheitsforscher halten dagegen, dass Backend-Infrastruktur, Telemetriesysteme und Methoden zur Nutzungsverfolgung undurchsichtig bleiben, selbst wenn die Modellgewichte öffentlich zugänglich sind.

Das Qwen-Code-Ökosystem und die Integration in Entwicklungsumgebungen

Parallel zur Veröffentlichung des Modells stellte Alibaba Qwen Code als Open Source bereit, ein Kommandozeilenwerkzeug, das von Gemini Code abgespalten und für agentenbasierte Coding-Workflows optimiert wurde. Damit können Entwickler technische Aufgaben mithilfe natürlichsprachlicher Anweisungen an eine KI delegieren. Angepasste Prompts und Interaktionsprotokolle sollen das volle Potenzial von Qwen3-Coder-Next ausschöpfen. Die Kommandozeilenschnittstelle lässt sich mit gängigen Entwicklungsumgebungen und Erweiterungen für VS Code verbinden und funktioniert nahtlos mit bestehenden Community-Tools wie Cline und den Schnittstellen von Claude Code.

Das Modell unterstützt ein neuartiges XML-artiges Format für Werkzeugaufrufe, das speziell für Argumente mit vielen Zeichenfolgen entwickelt wurde. Dadurch kann es lange Codeabschnitte ausgeben, ohne den bei JSON-basierten Funktionsaufrufen üblichen zusätzlichen Aufwand für verschachtelte Anführungszeichen und Escape-Zeichen. Das ist für den praktischen Einsatz relevant, weil es den Tokenverbrauch und die Komplexität der Verarbeitung verringert, wenn das Modell umfangreiche Codeblöcke generiert oder mit externen Entwicklungstools interagiert. Das System nutzt außerdem einen neuen Tokenizer, der mit der übrigen Qwen3-Familie kompatibel ist. Beim Wechsel von früheren Versionen müssen Entwickler deshalb ihre Tokenisierungspipelines aktualisieren.

Die Möglichkeiten zur Cloud-Bereitstellung sind rasch gewachsen. GroqCloud unterstützt inzwischen Qwen3-Modelle mit Zugriff auf das vollständige Kontextfenster und bietet Preise von 0,29 US-Dollar pro einer Million Eingabe-Tokens und 0,59 US-Dollar pro einer Million Ausgabe-Tokens. Die Inferenzgeschwindigkeit liegt bei mehr als 535 Tokens pro Sekunde. Alibabas eigene Plattform Model Studio ermöglicht kostengünstigen API-Zugriff. Das Unternehmen gibt an, dass Qwen-basierte Coding-Modelle weltweit insgesamt mehr als 20 Millionen Mal heruntergeladen wurden. Tongyi Lingma, Alibabas Plugin für integrierte Entwicklungsumgebungen, soll demnächst um die verbesserten agentenbasierten Fähigkeiten von Qwen3-Coder erweitert werden. So könnte die neue Funktionalität Millionen bestehender Nutzer erreichen.

Globaler Wettbewerb und Fragen souveräner KI

Die Veröffentlichung verschärft den Wettbewerb auf dem weltweiten Markt für KI-Coding-Assistenten. Chinesische Unternehmen fordern die US-amerikanische Dominanz zunehmend mit Open-Source-Strategien heraus. Alibaba zufolge erreicht die Qwen3-Next-Architektur die Leistung des Spitzenmodells Qwen3-235B-A22B, während die Trainingskosten auf ein Zehntel des Vorgängermodells gesunken sind. Dieser Effizienzgewinn ermöglicht einen breiteren Zugang zu leistungsfähigen KI-Tools, ohne massive Investitionen in Infrastruktur zu erfordern. Das könnte die Einführung in Entwicklungsländern und bei unabhängigen Entwicklern beschleunigen.

Geopolitische Spannungen erschweren jedoch die Einführung. Analysten beobachten, dass ausländische KI-Modelle sowohl in den USA als auch in China aufgrund regulatorischer Vorgaben sowie Bedenken hinsichtlich Vertrauen und nationaler Sicherheit seltener genutzt werden. Der Aufstieg souveräner KI, bei der Staaten Modelle bevorzugen, die von lokaler Infrastruktur und Cloud-Diensten unterstützt werden, deutet darauf hin, dass quelloffene Modelle vor allem dann an Bedeutung gewinnen, wenn sie mit nationalen Vorgaben und den Risikoschwellen von Unternehmen vereinbar sind. Qwen3-Coder-Next könnte zwar die Expansion von Alibaba Cloud im asiatisch-pazifischen Raum beschleunigen, doch strenge Vorschriften und Sicherheitsbedenken dürften die Nutzung im Westen trotz der technischen Vorzüge begrenzen.

Lian Jye Su, Chefanalyst bei Omdia, betonte, dass unabhängig von der technischen Leistung gründliche Sicherheitsprüfungen nötig seien.

Es würde mich nicht überraschen, wenn westliche Technologieführer quelloffene Coding-Modelle wie Qwen3-Coder wegen ihrer Leistung in verschiedenen Benchmarks attraktiv finden. Bedenken hinsichtlich des Schutzes geistigen Eigentums und der Datensicherheit sind natürlich berechtigt. Deshalb würde ich Technologieführern in den USA empfehlen, alle quelloffenen Modelle unabhängig von ihrer Herkunft gründlich zu prüfen.

Die Wettbewerbslage deutet darauf hin, dass der ultimative Coding-Assistent möglicherweise nicht aus der proprietären, geschlossenen Entwicklung hervorgeht, sondern aus der gemeinsamen Weiterentwicklung offener Architekturen – vorausgesetzt, Vertrauen und Sicherheitsprüfungen lassen sich gewährleisten.

Das Wichtigste in Kürze

• Alibabas Qwen3-Coder-Next erreicht bei SWE-Bench Verified eine Genauigkeit von 70,6 Prozent und nutzt dabei nur 3 Milliarden aktive Parameter von insgesamt 80 Milliarden. Damit kann das Modell mit deutlich größeren proprietären Modellen konkurrieren.
• Die hybride Architektur aus Gated DeltaNet und Gated Attention ermöglicht Kontextfenster von 256.000 Tokens, die sich auf eine Million Tokens erweitern lassen, und bewahrt dabei eine lineare Rechenkomplexität.
• Das agentenbasierte Training mit 800.000 überprüfbaren Aufgaben aus der realen Welt über die MegaFlow-Infrastruktur schafft die Voraussetzungen für einen geschlossenen Lernkreislauf, der über das bloße Auswendiglernen statischer Codebeispiele hinausgeht.
• Unabhängige Benchmarks bestätigen Verarbeitungsgeschwindigkeiten von 172 Tokens pro Sekunde auf handelsüblicher Hardware und belegen damit die praktische Eignung für lokale Entwicklungsabläufe.
• Sicherheitsbewertungen zeigen bessere Fähigkeiten zur Behebung von Schwachstellen als bei Claude-Opus-4.5. Geopolitische Bedenken hinsichtlich Datensouveränität und möglicher Risiken in der Lieferkette bleiben jedoch erhebliche Hindernisse für den Einsatz in westlichen Unternehmen.
• Die Apache-2.0-Lizenz erlaubt die kommerzielle Nutzung und die Prüfung des Modells. Die Gewichte sind auf Hugging Face verfügbar, ebenso wie das Kommandozeilenwerkzeug Qwen Code für die sofortige Integration in Entwickler-Workflows.