Alibabas Qwen3.5-Medium-Modelle fordern die westliche KI-Dominanz mit einer auf lokalen Betrieb ausgelegten Architektur heraus

9 Min. Lesezeit
Alibabas Qwen3.5-Medium-Modelle fordern die westliche KI-Dominanz mit einer auf lokalen Betrieb ausgelegten Architektur heraus

Leistung modernster KI auf Consumer-Hardware

Alibabas Qwen-KI-Entwicklungsteam hat eine neue Reihe großer Sprachmodelle veröffentlicht, die die Annahme grundlegend infrage stellt, dass modernste künstliche Intelligenz eine Infrastruktur im Cloud-Maßstab oder proprietäre APIs voraussetzt. Die erst vor wenigen Tagen vorgestellte Qwen3.5-Medium-Modellreihe umfasst vier neue Modelle, die effizient auf lokaler Hardware laufen und laut Alibaba eine Leistung auf Augenhöhe mit führenden westlichen Alternativen bieten.

Inhalt
  1. Leistung modernster KI auf Consumer-Hardware
  2. Architekturinnovation ermöglicht lokalen Betrieb
  3. Einordnung der Benchmarks: Leistungsversprechen auf dem unabhängigen Prüfstand
  4. Denkmodus und Tool-Integration
  5. Bedeutung für die Datensouveränität von Unternehmen
  6. Die Herausforderung für das breitere chinesische KI-Ökosystem
  7. Marktpositionierung und weitere Entwicklung
  8. Die wichtigsten Punkte

Drei der vier Modelle stehen unter der freizügigen Apache-2.0-Lizenz. Unternehmen und unabhängige Entwickler können sie dadurch ohne Lizenzgebühren herunterladen, verändern und kommerziell einsetzen. Zum Open-Source-Trio gehören Qwen3.5-35B-A3B, Qwen3.5-122B-A10B und Qwen3.5-27B. Alle drei sind ab sofort auf Hugging Face und ModelScope verfügbar. Die vierte Variante, Qwen3.5-Flash, bleibt proprietär und ist ausschließlich über die API des Alibaba Cloud Model Studio zugänglich. Die Preise liegen jedoch deutlich unter denen der meisten westlichen Wettbewerber.

Anzeige

Besonders bemerkenswert sind Alibabas Angaben zur Leistung in Benchmarks. Dem Unternehmen zufolge übertrifft das Flaggschiffmodell Qwen3.5-35B-A3B OpenAIs GPT-5-mini und Anthropics Claude Sonnet 4.5 bei unabhängigen Bewertungen zu Wissensabruf und visuellem Schlussfolgern. Claude Sonnet 4.5 kam erst vor fünf Monaten auf den Markt. Dass die Konkurrenz so schnell aufschließt, ist bemerkenswert in einer Branche, in der Entwicklungszyklen üblicherweise Monate oder Jahre dauern.

Architekturinnovation ermöglicht lokalen Betrieb

Qwen3.5 unterscheidet sich von früheren Generationen vor allem durch seine hybride Architektur, die Gated Delta Networks mit einem sparsamen Mixture-of-Experts-System kombiniert. Für technisch weniger versierte Leser bedeutet das einen grundlegenden Wandel darin, wie KI-Modelle Informationen verarbeiten. Herkömmliche dichte Modelle aktivieren bei jeder Anfrage sämtliche Parameter und verbrauchen dadurch enorme Rechenressourcen. Der MoE-Ansatz funktioniert dagegen eher wie eine Beratung durch Spezialisten: Jede Anfrage wird nur an den relevantesten Teil des Modellwissens weitergeleitet.

Die technischen Daten zeigen, wie viel effizienter das Modell dadurch wird. Qwen3.5-35B-A3B verfügt zwar insgesamt über 35 Milliarden Parameter, aktiviert für jedes einzelne Token aber nur 3 Milliarden davon. Die Architektur nutzt 256 Expertenmodule, darunter 8 gezielt ausgewählte und einen gemeinsam genutzten Experten, die jeweils bestimmte Aspekte einer Anfrage bearbeiten. Durch diese selektive Aktivierung sinkt die Inferenzlatenz, ohne dass die Ausgabequalität leidet. So erreicht das Modell laut Alibaba selbst dann nahezu verlustfreie Genauigkeit, wenn es durch Quantisierung auf 4-Bit-Gewichte komprimiert wird.

Anzeige

Diese Robustheit gegenüber Quantisierung eröffnet neue Möglichkeiten für den praktischen Einsatz. Bei den meisten KI-Modellen sinkt die Leistung deutlich, wenn sie für den lokalen Betrieb komprimiert werden. Die speziell auf Stabilität bei der Komprimierung ausgelegte Architektur von Qwen3.5 soll es ermöglichen, mit dem Flaggschiffmodell auf Consumer-GPUs mit nur 32 GB VRAM ein Kontextfenster von mehr als einer Million Tokens zu verarbeiten. Dafür ist zwar leistungsstarke Consumer-Hardware nötig, sie ist aber wesentlich leichter verfügbar als die Serverfarmen, die vergleichbare Leistungen bei Konkurrenzmodellen üblicherweise erfordern.

Einordnung der Benchmarks: Leistungsversprechen auf dem unabhängigen Prüfstand

Alibabas Angaben zu den Benchmarks erzählen nur einen Teil der Geschichte. Unternehmensfinanzierte Tests sehen Qwen3.5-35B-A3B bei Kennzahlen wie MMMLU (mehrsprachiges Wissen) und MMMU-Pro (visuelles Schlussfolgern) vor GPT-5-mini und Claude Sonnet 4.5. Unabhängige Tests zeichnen jedoch ein differenzierteres Bild der Wettbewerbslage.

Jüngste unabhängige Tests mit SWE-rebench, bei denen Modelle anhand realer Fehlerbehebungen in GitHub-Pull-Requests statt anhand synthetischer Benchmarks bewertet werden, ergaben für Claude Sonnet 4.5 mit einer Erfolgsquote von 55,1 Prozent den Spitzenwert. Anthropics Modell löste als einziges mehrere komplexe Aufgaben, an denen alle anderen getesteten Modelle scheiterten. Dazu gehörten Probleme in den Repositories python-trio, cubed-dev und canopen. In dieser praxisnahen Programmierumgebung lag Sonnet 4.5 klar vorn.

Anzeige

Weitere unabhängige Tests mit dem APEX-Benchmark, der 70 Aufgaben mit echten Codebasen und realen Problemen umfasst, offenbarten zusätzliche Schwächen im Leistungsprofil von Qwen3.5. Das dichte 27B-Modell schnitt beim Einsatz auf einer einzelnen GPU ordentlich ab: Mit 1384 ELO lag es vor DeepSeek V3.2. Größere Varianten zeigten jedoch bei komplexen Aufgaben zur Koordination über mehrere Dateien hinweg besorgniserregende Leistungseinbrüche. Die 35B-MoE-Variante mit nur 3 Milliarden aktiven Parametern fiel bei agentischen Aufgaben auf 1256 ELO und schnitt beim mehrstufigen Schlussfolgern schlechter ab als die kleinere 27B-Variante. Besonders deutlich stürzte die massive Qwen3.5-397B-Konfiguration bei Aufgaben mit höchstem Schwierigkeitsgrad ab: Von rund 1550 ELO bei schwierigen Aufgaben fiel sie auf 1194, sobald sie über längere Schlussfolgerungsketten hinweg zahlreiche Dateien koordinieren musste.

Wenn es über viele Schritte hinweg zahlreiche Dateien koordinieren muss, verliert es einfach den Überblick darüber, was es gerade tut.

Diese unabhängige Analyse wurde von einem selbstfinanzierten Forscher veröffentlicht, der für die Tests Rechenkosten von mehr als 3.000 US-Dollar aufgewendet hat. Sie legt nahe, dass Qwen3.5 bei klar abgegrenzten Aufgaben zwar überzeugt, sich aber mit komplexen, langfristigen agentischen Aufgaben schwertun könnte, bei denen Claude Sonnet 4.5 besondere Stärken zeigt.

Denkmodus und Tool-Integration

Alle Qwen3.5-Modelle verfügen standardmäßig über einen integrierten Denkmodus. Damit setzt die Reihe stärker auf KI-Interaktionen, bei denen das Schlussfolgern im Vordergrund steht. Bevor die Modelle ihre endgültige Antwort erstellen, entwickeln sie interne Schlussfolgerungsketten, die durch bestimmte Tags gekennzeichnet sind. So arbeiten sie komplexe Überlegungen ausdrücklich durch, statt sofort zu einem Ergebnis zu springen. Dieser Ansatz ähnelt den Chain-of-Thought-Methoden, die auch bei anderen Spitzenmodellen die Genauigkeit verbessert haben.

Anzeige

Die Reihe legt außerdem großen Wert auf agentische Fähigkeiten. Die integrierte Unterstützung für Tool-Aufrufe ermöglicht es den Modellen, mit externen Systemen zu interagieren, im Web zu suchen und Code auszuführen. Die Qwen3.5-Flash-API bietet dafür eine detaillierte Preisstaffelung: Die Websuche kostet 10 US-Dollar pro 1.000 Aufrufe, während der Code-Interpreter derzeit für begrenzte Zeit kostenlos angeboten wird. Damit zählt Flash weltweit zu den günstigsten gehosteten LLM-Angeboten. Die Eingabe kostet 0,10 US-Dollar pro Million Tokens, die Ausgabe 0,40 US-Dollar pro Million Tokens.

Zum Vergleich: Claude Sonnet 4.5 kostet 3,00 US-Dollar pro Million Eingabe-Tokens und 15,00 US-Dollar pro Million Ausgabe-Tokens. Bei GPT-5.2 sind es 1,75 beziehungsweise 14,00 US-Dollar. Selbst lokal ausgerichtete Alternativen wie GLM-5 von Z.ai kosten 1,00 beziehungsweise 3,20 US-Dollar pro Million Tokens. Dieser Preisunterschied um den Faktor 30 bis 100 könnte bei kostenbewussten Unternehmen für eine breite Nutzung sorgen, wenn sie bereit sind, geringfügige Leistungsunterschiede für eine erhebliche Entlastung des Budgets in Kauf zu nehmen.

Bedeutung für die Datensouveränität von Unternehmen

Über die reinen Leistungskennzahlen hinaus ist die Veröffentlichung von Qwen3.5 für den Einsatz von KI in Unternehmen strategisch bedeutsam. Leistungsfähige Modelle vollständig in einer privaten Infrastruktur betreiben zu können, begegnet den wachsenden Bedenken hinsichtlich der Datensouveränität und der Risiken durch APIs von Drittanbietern. Unternehmen in regulierten Branchen wie dem Finanz- und Gesundheitswesen sowie im öffentlichen Auftragswesen müssen zunehmend Compliance-Vorgaben erfüllen, die die Übermittlung sensibler Daten an externe Cloud-KI-Dienste untersagen.

Mit Kontextfenstern von einer Million Tokens auf lokal kontrollierter Hardware ermöglicht Qwen3.5 Unternehmen, umfangreiche Dokumentenbestände, stundenlange Videoinhalte und große interne Datensätze zu verarbeiten, ohne proprietäre Informationen externen APIs preiszugeben. Diese Architektur entkoppelt leistungsfähige KI-Funktionen von hohen Investitionskosten und könnte damit den Zugang zu Werkzeugen demokratisieren, die bislang gut finanzierten Technologieunternehmen vorbehalten waren.

Anzeige

Die Open-Source-Lizenz ermöglicht zudem Anpassungen und Feinabstimmungen für fachspezifische Anwendungen. Anders als proprietäre Modelle, die nur einen undurchsichtigen API-Zugang bieten, können Unternehmen die offenen Gewichte von Qwen3.5 an Fachvokabular, interne Wissensdatenbanken und besondere Anforderungen ihrer Arbeitsabläufe anpassen. Das ist besonders wertvoll für Branchen mit spezifischer Terminologie oder besonderen Dokumentationspflichten aufgrund regulatorischer Vorgaben.

Die Herausforderung für das breitere chinesische KI-Ökosystem

Qwen3.5 erscheint in einer Phase, in der chinesische KI-Labore eine Reihe wettbewerbsfähiger Open-Source-Modelle veröffentlichen und damit gemeinsam die technologische Vorherrschaft des Westens herausfordern. Die GLM-4.5-Familie von Z.ai wurde unter einer ähnlichen Apache-2.0-Lizenz veröffentlicht und bietet vergleichbare Leistung sowie Spezialfunktionen wie die automatische Erstellung von PowerPoint-Präsentationen. Moonshots Kimi K2 und verschiedene offene Modelle von DeepSeek ergänzen ein Ökosystem, das praktikable Alternativen zu geschlossenen US-amerikanischen Systemen bietet.

Diese Entwicklung setzt westliche KI-Anbieter unter Druck. Meta stand nach der Einführung seiner Llama-4-Familie in der Kritik. Einige KI-Forscher bemängelten, die Modelle seien auf Benchmarks optimiert und lieferten in der Praxis uneinheitliche Ergebnisse. OpenAI, das die moderne Ära großer Sprachmodelle einläutete, hat die für Juli geplante Veröffentlichung eines leistungsfähigen Open-Source-Modells auf einen unbestimmten späteren Zeitpunkt verschoben. So bleibt chinesischen Alternativen Zeit, sich bei Entwicklern zu etablieren.

Die Wettbewerbsdynamik beschränkt sich nicht auf technische Daten, sondern betrifft auch Fragen der Datenverwaltung. Westliche Unternehmen, die in China entwickelte Modelle einsetzen, müssen mögliche Inhaltsbeschränkungen und Fragen der Datensouveränität berücksichtigen, insbesondere bei der Nutzung cloudbasierter APIs statt lokaler Installationen. Da die wichtigsten Varianten von Qwen3.5 jedoch quelloffen sind, lassen sie sich auch ohne Netzwerkverbindung betreiben, wodurch viele dieser Bedenken entfallen.

Anzeige

Marktpositionierung und weitere Entwicklung

Mit seiner Veröffentlichungsstrategie will Alibaba den Zugang über verschiedene Hardwareklassen hinweg ermöglichen. Qwen3.5-27B zielt auf einen besonders effizienten Betrieb und unterstützt Kontextfenster von mehr als 800.000 Tokens. Die Variante 122B-A10B benötigt für maximale Leistung dagegen Server-GPUs mit 80 GB VRAM. Dank dieses abgestuften Ansatzes können Unternehmen ein Modell passend zu ihrer verfügbaren Infrastruktur auswählen, statt grundsätzlich auf die Cloud angewiesen zu sein.

Alibaba hat außerdem das Basismodell neben den instruktionstauglich abgestimmten Varianten als Open Source veröffentlicht. Damit trägt das Unternehmen den Bedürfnissen der Forschungsgemeinschaft nach Feinabstimmung und architektonischer Analyse Rechnung. Diese Transparenz unterscheidet sich von den geschlossenen Entwicklungspraktiken einiger westlicher Wettbewerber und könnte durch gemeinschaftliche Weiterentwicklung Innovationen beschleunigen.

Erste Rückmeldungen aus der Community auf Hugging Face zeigen besonderes Interesse an den agentischen Fähigkeiten und der Stabilität bei der Quantisierung. Entwickler berichten, dass sie die Modelle erfolgreich auf Consumer-Hardware betreiben, die bislang als unzureichend für die Leistung moderner Spitzenmodelle galt. Das stützt Alibabas Effizienzversprechen, auch wenn unabhängige Benchmarks bei komplexen Programmieraufgaben zur Vorsicht mahnen.

Die wichtigsten Punkte

  • Alibaba hat die Qwen3.5-Medium-Reihe mit vier Modellen veröffentlicht. Drei davon stehen unter der Open-Source-Lizenz Apache 2.0 und dürfen kommerziell genutzt werden.
  • Das Flaggschiffmodell Qwen3.5-35B-A3B aktiviert dank der Mixture-of-Experts-Architektur pro Token nur 3 Milliarden seiner insgesamt 35 Milliarden Parameter.
  • Unabhängige Benchmarks zeigen gemischte Ergebnisse: starke Leistungen bei Wissens- und Schlussfolgerungstests, aber Schwierigkeiten bei komplexen Programmieraufgaben über mehrere Dateien hinweg im Vergleich zu Claude Sonnet 4.5.
  • Dank moderner 4-Bit-Quantisierung unterstützen die Modelle auf Consumer-GPUs mit 32 GB VRAM Kontextfenster von mehr als einer Million Tokens.
  • Die Preise für die Qwen3.5-Flash-API liegen um den Faktor 30 bis 100 unter denen westlicher Wettbewerber: Eine Million Eingabe-Tokens kosten 0,10 US-Dollar, bei Claude Sonnet 4.5 sind es 3,00 US-Dollar.
  • Der standardmäßig aktivierte Denkmodus erzeugt interne Schlussfolgerungsketten, bevor die Modelle ihre endgültigen Antworten ausgeben.
  • Der Einsatz im Unternehmen ermöglicht regulierten Branchen vollständige Datensouveränität, wenn KI-Verarbeitung vor Ort erfolgen muss.
  • Die Veröffentlichung ergänzt eine breitere Welle chinesischer Open-Source-KI-Modelle, darunter GLM-4.5 von Z.ai und Kimi K2 von Moonshot, die westliche proprietäre Systeme herausfordern.
Diesen Artikel teilen

Das könnte Ihnen auch gefallen