Ein Beschleuniger-Rack mit 96 Chips steht im Zentrum von Microsofts nächstem KI-Vorstoß
Microsoft hat Maia 300 vorgestellt, einen KI-Beschleuniger, dessen Rechen-Chiplets im N2P-Verfahren von Taiwan Semiconductor Manufacturing Co. gefertigt werden. Der Produktionseinsatz soll 2027 beginnen. Die Ankündigung gibt Microsofts Vorhaben eine konkrete Form, die eigene Maia-Hardware zum primären System für KI-Inferenz in seinen Produkten und Diensten zu machen.
Inhalt
- Ein Beschleuniger-Rack mit 96 Chips steht im Zentrum von Microsofts nächstem KI-Vorstoß
- Was TSMC N2P fertigen wird
- Warum Speicher ebenso wichtig ist wie Rechenleistung
- Software steuert, wohin die Daten fließen
- Von einem Rack zu 12.288 Beschleunigern
- Was die Effizienzangaben tatsächlich vergleichen
- Kühlung und Stromversorgung bestimmen den Einsatz
- Maia 200 bildet den Ausgangspunkt
- Eine größere Rolle für TSMC und Taiwans Serverindustrie
- Nvidia bleibt Teil des Plans
- Die wichtigsten Punkte
Das geplante Rack vereint 96 Beschleuniger in einem Leistungsrahmen von 167 Kilowatt. Es bietet 27,6 Terabyte Hochbandbreitenspeicher und eine aggregierte Speicherbandbreite von rund 1,7 Petabyte pro Sekunde. Microsoft erwartet, dass Maia 300 pro Megawatt 40 Prozent mehr Tokens liefert als führende Systeme auf Basis von Grafikprozessoren (GPUs) und bis zu siebenmal so viel wie ein Maia-200-Rack.
Das sind Leistungsangaben des Unternehmens, keine Ergebnisse unabhängiger Benchmarks. Sie zeigen dennoch, worauf Microsoft seine Investitionen ausrichtet: mehr nutzbare KI-Ausgabe innerhalb der Grenzen von Stromversorgung, Kühlung und Platz eines Rechenzentrums zu ermöglichen, statt lediglich die Rechenleistung eines einzelnen Chips zu steigern.
Scott Guthrie, Executive Vice President für Cloud + AI bei Microsoft, erläuterte den Einsatzplan in der Ankündigung zu Azure Maia des Unternehmens vom 12. Oktober 2026.
Ab 2027 werden wir unsere Azure-Maia-Familie auf Einsätze im Multi-Gigawatt-Bereich ausweiten und Maia zum primären Inferenzsystem für Microsoft-Produkte und -Dienste machen.
Die Zusage betrifft die Maia-Familie und nicht allein Maia 300. Berichte, wonach Microsoft 2027 mehr als eine Million Maia-300-Chips einsetzen könnte, gehen über die veröffentlichte Ankündigung hinaus. Diese bestätigt den Start im Jahr 2027, nennt aber weder eine Chipzahl noch eine Frist für den Abschluss des umfassenderen Ausbaus.
Was TSMC N2P fertigen wird
Microsofts Bestätigung ist präziser als die allgemeine Beschreibung von Maia 300 als 2-Nanometer-Chip. Die Rechen-Chiplets nutzen N2P, ein Verfahren aus TSMCs 2-Nanometer-Familie. Speichercontroller sowie Ein- und Ausgabefunktionen befinden sich auf separaten Dies. So können für verschiedene Teile des Gehäuses jeweils Fertigungstechnologien eingesetzt werden, die zu ihren Aufgaben passen.
Ein Chiplet ist ein kleineres Stück Silizium, das in einem Gehäuse mit anderen Dies zusammenarbeitet. Bei Maia 300 kann Microsoft durch diese Aufteilung die Rechenfunktionen in einem fortschrittlichen Fertigungsverfahren unterbringen und Konnektivität, Speichersteuerung und Kosten als separate Designentscheidungen behandeln. Das bedeutet nicht, dass jeder Die im Gehäuse mit N2P gefertigt wird.
In der am 12. Oktober veröffentlichten Analyse der Maia-300-Architektur beschreiben Rani Borkar, Präsidentin von Azure Hardware Systems and Infrastructure, und Saurabh Dighe, Corporate Vice President für Systems Planning and Architecture, diese Aufteilung ausdrücklich.
Dem Dokument zufolge steigern die architektonischen Änderungen den Rechendurchsatz des Systems, gemessen in Gleitkommaoperationen, um 36 Prozent. Zudem bieten sie die 2,5-fache HBM-Bandbreite und 14 Prozent mehr Bandbreite für die Kommunikation zwischen Beschleunigern. Diese Zahlen beziehen sich auf unterschiedliche Ressourcen im System. Keine davon erklärt für sich genommen die behauptete siebenfache Token-Ausgabe pro Rack.
Warum Speicher ebenso wichtig ist wie Rechenleistung
Maia 300 ist in erster Linie für Inferenz ausgelegt, also dafür, ein bereits trainiertes Modell zu nutzen, um Antworten zu erzeugen oder Aufgaben zu erledigen. Zu den vorgesehenen Arbeitslasten zählen das Schlussfolgern über lange Dokumente, Gespräche mit kurzen Antwortzeiten sowie KI-Agenten, die über längere Zeit mehrere Schritte ausführen und Werkzeuge nutzen.
Bei solchen Arbeitslasten kann ein erheblicher Teil der Zeit dafür anfallen, Modelldaten und gespeicherte Gesprächsinformationen zu bewegen, statt Berechnungen auszuführen. Deshalb hat Microsoft jeden Beschleuniger mit acht HBM4-Speicherstapeln ausgestattet. Diese bieten 288 Gigabyte Kapazität und eine Spitzenbandbreite von 18 Terabyte pro Sekunde bei einer thermischen Auslegungsleistung von 950 Watt. Die thermische Auslegungsleistung ist eine Spezifikation für Stromversorgung und Kühlung, keine Messung des konstanten Stromverbrauchs.
Im Vergleich zu Maia 200 bietet Maia 300 laut Microsoft 33 Prozent mehr Speicherkapazität und die 2,5-fache Speicherbandbreite. Der Kapazitätsvergleich passt zum gemeldeten Anstieg von 216 auf 288 Gigabyte, also um 72 Gigabyte pro Beschleuniger.
Bei Bandbreiteneinheiten ist Vorsicht geboten. Manche Berichte geben die Bandbreite des früheren Chips in Terabit pro Sekunde und die des neuen Racks in Petabit pro Sekunde an. In Microsofts Dokumentation zu Maia 300 werden Terabyte und Petabyte pro Sekunde verwendet. Bits und Bytes unterscheiden sich um den Faktor acht; die unterschiedlich angegebenen Werte dürfen daher nicht gleichgesetzt werden.
Software steuert, wohin die Daten fließen
Maia 300 baut Microsofts Software Defined Locally Accessed Dataflow Architecture (SDLA) weiter aus. Konkret erhält die Software dadurch gezielte Kontrolle darüber, wo Daten gespeichert werden, wie sie sich bewegen, wann ihr Format geändert wird und wie Abläufe zwischen Recheneinheiten, Speicher und Netzwerk koordiniert werden.
Das neue Design nutzt eine nicht einheitliche Speicheranordnung über die Chiplets hinweg. Manche Speicherbereiche liegen näher an einer bestimmten Rechenregion als andere. Die Software kann daher Daten nahe bei den Einheiten ablegen, die sie benötigen, und so Datenbewegungen verringern. SRAM, ein schneller Speicher auf dem Die, dient ebenfalls als von der Software verwalteter temporärer Arbeitsbereich und entlastet dadurch den HBM.
Microsoft verbindet diese Änderungen mit einer erweiterten Unterstützung kompakter Zahlenformate, darunter MXFP4 und Speicherformate mit weniger als drei Bit. Diese Darstellungen verringern den Speicherbedarf der Daten und die Zahl der Bytes, die während der Inferenz bewegt werden müssen. Ihr Nutzen hängt von der Unterstützung durch Software und Modelle ab, nicht allein vom kleineren Format.
Das Design ist außerdem auf den KV-Cache ausgelegt. Er speichert Informationen zu Tokens, die ein Modell bereits verarbeitet hat, damit es sie nicht bei jedem Schritt erneut berechnen muss. Ein kompakter KV-Cache ist wichtig, wenn Gespräche länger werden oder viele Nutzer gleichzeitig bedient werden müssen.
Mustafa Suleyman, CEO von Microsoft AI, stellte das Hardwareprogramm in Zusammenhang mit der Modellentwicklung des Unternehmens und erläuterte, warum sein Team die Plattform unterhalb der Modelle kontrollieren möchte.
Bei diesem Maßstab brauchen wir eine Plattform, die uns gehört und die wir gemeinsam mit unseren Modellen entwickeln. Deshalb ist es für unser Team ein zentrales Anliegen, unsere Microsoft-AI-Modelle auf dem Maia-Chip laufen zu lassen.
Von einem Rack zu 12.288 Beschleunigern
Ein Maia-300-Rack umfasst 24 Einschübe mit jeweils vier Beschleunigern sowie dem zugehörigen Host-Prozessor, Speicher, Speicherlaufwerken und Kühlsystem. Damit verdoppelt sich die Zahl der Beschleuniger gegenüber den 48 in einem Maia-200-Rack. Weil die Host-Komponenten in diese Einschübe integriert sind, werden separate Host-Einschübe überflüssig und es entsteht Platz für zusätzliche Beschleuniger.
Microsofts Netzwerktechnik kann bis zu 128 Racks zu einem Superpod mit 12.288 Beschleunigern verbinden. Innerhalb der Racks kommen elektrische Verbindungen zum Einsatz, zwischen den Racks optische. Der speziell entwickelte KI-Transport basiert auf Ethernet.
Das Netzwerk stellt der Software im gesamten Superpod ein einheitliches Kommunikationsmodell bereit. Beschleuniger können Übertragungen an andere Beschleuniger selbst anstoßen, ohne sie über einen Host-Prozessor oder eine separate Netzwerkschnittstelle für die Kommunikation zwischen Racks leiten zu müssen.
Das ist wichtig, wenn ein Modell auf mehrere Chips verteilt ist. Bei der Tensor-Parallelisierung werden Teile der Modellberechnungen auf Beschleuniger aufgeteilt, die häufig miteinander kommunizieren müssen. Laut Microsoft kann die Software Datenverkehr mit den kürzesten Antwortzeiten innerhalb eines Racks halten und andere Aufgaben weiter verteilen.
Über dasselbe Netzwerk lässt sich die anfängliche Verarbeitung eines Prompts von der anschließenden Antwortgenerierung trennen. Gespeicherte KV-Daten werden direkt zwischen den Arbeitseinheiten übertragen, die diese Phasen übernehmen. Nicht ausgelastete Beschleuniger in einem anderen Rack können außerdem einspringen, wenn Kapazität ausfällt. Der längere Kommunikationsweg verursacht dabei allerdings zusätzliche Latenz.
Was die Effizienzangaben tatsächlich vergleichen
Microsoft nennt zwei zentrale Vergleichswerte, die getrennt betrachtet werden sollten. Die erwarteten 40 Prozent mehr Tokens pro Megawatt beziehen sich auf führende GPU-Systeme. Die Angabe einer bis zu siebenfachen Token-Ausgabe pro Rack vergleicht ein vollständig bestücktes Maia-300-Rack mit Maia 200.
Ein Token ist eine Texteinheit, die ein Sprachmodell verarbeitet. Dabei handelt es sich oft eher um einen Wortbestandteil als um ein vollständiges Wort. Der Token-Durchsatz misst die Ausgabemenge, sagt allein aber nichts über die Qualität der Antworten, die Antwortgeschwindigkeit für einzelne Nutzer oder die Leistung bei jedem Modell aus.
Auch beim Effizienzvergleich mit Maia 200 verwendet das Architekturpapier unterschiedliche Formulierungen. Im Abschnitt zum Rack ist von bis zu 2,5-mal mehr Leistung pro Watt die Rede, im abschließenden Vergleich von mehr als dem 2,5-Fachen. Ohne detaillierte Testbedingungen sollten diese Angaben nicht zu einem einzigen garantierten Ergebnis zusammengezogen werden.
Ein Teil des höheren Rack-Durchsatzes erklärt sich durch die Zahl der Beschleuniger: Maia 300 verdoppelt die Zahl der Chips. Die behauptete siebenfache Durchsatzsteigerung geht daher über die höhere Dichte hinaus und vereint zusätzliche Beschleuniger mit Änderungen an Speicher, Software, Netzwerk und Ausführungseffizienz. Sie ist nicht als siebenfache Leistungssteigerung jedes einzelnen Chips zu verstehen.
Auch die Spezifikation von 950 Watt pro Beschleuniger ist vom Leistungsrahmen des Racks von 167 Kilowatt zu unterscheiden. 96 mal 950 Watt ergeben 91,2 Kilowatt. Der Rack-Wert umfasst ein größeres Gesamtsystem mit Hosts, Speicher, Netzwerk und Stromversorgung. Die beiden Angaben beziehen sich also auf unterschiedliche Systemgrenzen.
Kühlung und Stromversorgung bestimmen den Einsatz
Bei 167 Kilowatt pro Rack erfordert Maia 300 einen integrierten Ansatz für Stromversorgung und Wärmeabfuhr. Microsoft zufolge führt Flüssigkühlung mehr als 80 Prozent der Wärme ab, die von Beschleunigern, Spannungsreglern und Netzwerk-Switch-Chips erzeugt wird. Speicher, Laufwerke und andere Komponenten werden per Luft gekühlt.
Das Rack kann direkt an die Wasserversorgung des Gebäudes angeschlossen werden, sofern diese verfügbar ist, oder einen Wärmetauscher nutzen, wenn das Rechenzentrum auf Luftkühlung setzt. Doppelte Stromzuführungen und ein automatischer Transferschalter ermöglichen den Betrieb, wenn eine Zuleitung zu Wartungszwecken abgeschaltet wird.
Messwerte zur Stromversorgung auf Rack- und Reihenebene fließen in den Rechenzentrumsbetrieb ein. Microsoft zufolge helfen diese Daten den Algorithmen dabei, Strom zuzuweisen, Arbeitslasten zu platzieren und die Einsatzdichte an die verfügbare Strom- und Kühlkapazität anzupassen.
Alistair Speirs, ein General Manager bei Microsoft, erläuterte beim Gespräch über die neue Architektur den Zusammenhang mit den Betriebskosten.
Wir brauchen neue Architekturen, die uns im Grunde eine bessere Leistung und eine bessere Nutzung der verfügbaren Energie ermöglichen.
Das Gigawatt-Ziel ist daher mehr als ein Plan zum Kauf von Chips. Es steht für ein umfangreiches Infrastrukturvorhaben mit Racks, Netzwerken, elektrischer Kapazität und Kühlung. Die veröffentlichte Ankündigung nennt weder Standorte und regionale Verteilung noch einen Zeitplan für die Bereitstellung dieser Kapazität.
Maia 200 bildet den Ausgangspunkt
Maia 200 bedient Microsoft zufolge bereits Arbeitslasten im Produktivbetrieb, darunter Microsoft Copilot, und unterstützt das MAI-Team bei der Entwicklung neuer Modelle. Der Chip führt OpenAI-Modelle, Microsofts eigene MAI-Modelle und führende Open-Source-Modellfamilien aus. Er ist in den USA, Europa und Australien im Einsatz.
Berichte unterscheiden sich hinsichtlich des Starts von GitHub Copilot und Microsoft Foundry. Einer zufolge laufen beide bereits mit Maia 200 in der Produktion. Microsoft erklärte am 12. Oktober, dass sie bis Ende 2026 folgen sollen. Dieser offizielle Zeitplan ist die verlässlichere Grundlage für die Beschreibung ihres Status.
Für integrierte KI-Funktionen in Teams, Copilot und Cowork meldet Microsoft bis zu 1,7-mal mehr Tokens pro Watt im Vergleich zu führender GPU-Infrastruktur. Als künftige Einsatzbereiche nennt das Unternehmen außerdem Programmierassistenz, Cloud-Modellbereitstellung, Inferenz und Datengenerierung für MAI sowie klinische Abläufe mit Dragon Copilot.
Die Abfolge der Ankündigungen und geplanten Meilensteine:
- 2023: Microsoft stellt Maia 100 vor, seinen ersten eigens entwickelten KI-Beschleuniger.
- Januar 2026: Microsoft kündigt Maia 200 an.
- 12. Oktober 2026: Microsoft stellt die Architektur von Maia 300 vor und bestätigt Arbeitslasten von Maia 200 im Produktivbetrieb.
- Bis Ende 2026: GitHub Copilot und Microsoft Foundry sollen auf Maia 200 folgen.
- 2027: Der Produktionseinsatz von Maia 300 beginnt, ebenso der Ausbau der Maia-Familie auf mehrere Gigawatt.
Jim Kleewein, technischer Fellow bei Microsoft, zufolge dürften einige Funktionen von Microsoft 365 Copilot mit Maia 300 schneller werden. Eine quantifizierte Verbesserung der Antwortzeiten für Nutzer wurde nicht angekündigt.
Eine größere Rolle für TSMC und Taiwans Serverindustrie
Maia 300 bestätigt TSMCs Rolle bei fortschrittlicher KI-Hardware für ein weiteres großes Cloud-Unternehmen. Microsoft entwickelt den Beschleuniger, TSMC fertigt dessen N2P-Rechen-Chiplets. Eine geringere Abhängigkeit von zugekauften GPUs beseitigt somit nicht die Abhängigkeit von Fertigungskapazitäten für Halbleiter.
TSMC hat angekündigt, 2026 fünf Fertigungsstätten für sein 2-Nanometer-Verfahren hochzufahren, zwei in Hsinchu und drei in Kaohsiung. Die Massenproduktion von N2P soll in der zweiten Jahreshälfte 2026 beginnen und damit vor dem geplanten Einsatz von Maia 300 im Jahr 2027.
Marktschätzungen zufolge wird TSMCs monatliche 2-Nanometer-Kapazität bis Ende 2026 etwa 90.000 bis 100.000 Wafer und bis Mitte 2027 mehr als 110.000 Wafer erreichen. Prognosen, wonach das Verfahren fast 10 Prozent des Umsatzes in der zweiten Jahreshälfte ausmachen könnte, sind Schätzungen und kein bestätigter Umsatz aus Maia-Aufträgen.
Zu TSMCs erklärten Zielen gehören 45 Prozent mehr Wafer-Ausstoß im ersten Jahr des 2-Nanometer-Verfahrens als im ersten Jahr der 3-Nanometer-Produktion 2023 sowie eine durchschnittliche jährliche Wachstumsrate von 70 Prozent bei der 2-Nanometer-Kapazität zwischen 2026 und 2028. Keines dieser Ziele belegt, welcher Anteil des Ausstoßes auf Microsoft entfällt.
Breitere Marktprognosen nennen Foxconn, Quanta, Wistron, Wiwynn, Pegatron, Inventec, Compal und MiTAC als mögliche Profiteure einer steigenden Nachfrage nach KI-Servern. Prognosen zufolge sollen 2026 3,5 Millionen und 2027 5,2 Millionen KI-Server ausgeliefert werden. Die gerundeten Gesamtwerte entsprechen einem Wachstum von rund 49 Prozent und liegen damit leicht über der separat genannten Prognose von 46 Prozent.
Prognosen gehen zudem von einem Anstieg der Investitionsausgaben großer US-Cloud-Anbieter um 96 Prozent im Jahr 2026 aus. Etwa die Hälfte des Zuwachses soll auf den Bau von Rechenzentren entfallen. Foxconn rechnet damit, seine jährlichen Auslieferungen von KI-Racks mehr als zu verdoppeln, während Quanta an einem Ziel von mindestens 100 Prozent Wachstum bei KI-Servern festhält. Dabei handelt es sich um breitere Branchenerwartungen, nicht um bestätigte Lieferverträge für Maia 300.
Nvidia bleibt Teil des Plans
Microsoft will Maia zum primären Inferenzsystem für seine eigenen Produkte und Dienste machen, nicht jede GPU in Azure ersetzen. Das Training neuer Modelle bleibt eine separate Anforderung; Microsoft arbeitet dafür weiterhin mit Nvidia und AMD zusammen.
In einer Telefonkonferenz zu den Quartalszahlen im Juli erklärte Microsoft, zu den ersten Cloud-Anbietern zu gehören, die Systeme mit Nvidia Vera Rubin und AMD Helios einsetzen dürften. Evercore ISI schätzt, dass Maia im ersten Quartal 2027 etwa 10 Prozent der KI-Chip-Ausgaben von Microsoft ausmachen könnte. Der Ausgabenanteil unterscheidet sich vom Anteil der Inferenzarbeit, die tatsächlich ausgeführt wird. Die Schätzung misst daher nicht direkt, wie weit Microsoft sein operatives Ziel erreicht hat.
Maia-Beschleuniger können derzeit nicht von anderen Unternehmen stundenweise gemietet werden. Das schränkt externe Bewertungen ein. Die veröffentlichten Leistungsangaben belegen daher nicht, welche Ergebnisse ein unabhängiger Kunde mit einem bestimmten Modell erzielen würde.
Offen sind weiterhin die Zahl der eingesetzten Chips, der Zeitplan für die vollständige Gigawatt-Kapazität, die genauen Benchmark-Bedingungen und die künftige Aufteilung der Arbeitslasten zwischen Maia und zugekauften GPUs. Microsoft will im November bei der Ignite 2026 in San Francisco und online weitere Informationen zu seiner Strategie teilen.
Die wichtigsten Punkte
- Die Rechen-Chiplets von Maia 300 werden mit TSMC N2P gefertigt; der Produktionseinsatz soll 2027 beginnen.
- Jeder Beschleuniger verfügt über 288 GB HBM4-Speicher und eine Spitzenbandbreite von 18 TB/s.
- Ein vollständig bestücktes Rack umfasst 96 Beschleuniger bei einem Leistungsrahmen von 167 kW.
- Microsoft erwartet 40 Prozent mehr Tokens pro Megawatt als bei führenden GPU-Systemen und eine bis zu siebenfache Rack-Ausgabe gegenüber Maia 200.
- Ab 2027 soll der Einsatz der Maia-Familie auf mehrere Gigawatt ausgeweitet werden; eine Frist für den Abschluss wurde nicht veröffentlicht.
- Berichte über mehr als eine Million Maia-300-Chips sind in Microsofts Ankündigung nicht bestätigt.
- Microsoft plant neben eigener Hardware weiterhin den Einsatz von Nvidia- und AMD-Systemen.






