Google erweitert TPU-Portfolio mit sicherer KI und größeren Speichersystemen im Wettbewerb mit Nvidia

Zwei neue Systeme zielen auf den nächsten KI-Bedarf

Google hat seine achte Generation von Tensor Processing Units um zwei spezialisierte Systeme erweitert: TPU 8tx schützt sensible Informationen während der Verarbeitung durch KI, und TPU 8i Max vereint zwei Chips in einem Gehäuse, um deutlich größere Informationsmengen zu verarbeiten. Die am 9. November 2026 angekündigten Ergänzungen bringen Googles TPU-Portfolio auf vier Systeme, die das Unternehmen innerhalb eines Jahres vorgestellt hat – ein Novum für Google.

Die neuen Systeme adressieren zwei praktische Herausforderungen für Unternehmen, die KI-Agenten einsetzen: private Daten zu schützen und der Software genügend Speicher zur Verfügung zu stellen, um ganze Sammlungen von Dokumenten, Programmcode oder Videos zu verarbeiten. Die Auslieferung soll 2027 beginnen. Google hat für keines der beiden Systeme einen konkreten Liefertermin oder Preis genannt.

In seiner Ankündigung zum TPU-Portfolio beschreibt Google beide Produkte als Konfigurationen auf Basis vorhandener Chips. TPU 8tx nutzt denselben Chip wie TPU 8t, kombiniert mit AMD-EPYC-Prozessoren der fünften Generation. TPU 8i Max vereint zwei TPU-8i-Chips in einem Gehäuse und verdoppelt so die Rechenkapazität sowie bestimmte integrierte Speicherressourcen und die Speicherbandbreite.

Eine TPU ist ein Prozessor, der für die mathematischen Operationen entwickelt wurde, die bei KI zum Einsatz kommen. Google entwickelte diese Prozessoren ursprünglich für eigene Dienste, darunter Spracherkennung und Übersetzung. Inzwischen unterstützen sie Gemini, externe Cloud-Kunden und Installationen in den Rechenzentren von Kunden.

Mit dem erweiterten Angebot verschärft Google den Wettbewerb mit Nvidia und bietet Kunden mehr Auswahl für bestimmte Aufgaben. Statt ein Beschleunigerdesign für alle Anforderungen einzusetzen, stellt Google unterschiedliche Kombinationen aus Prozessoren, Speicher, Vernetzung und Sicherheitsfunktionen auf Basis seiner vorhandenen Chips zusammen.

Warum innerhalb eines Jahres vier Systeme vorgestellt wurden

Google stellte TPU 8t für umfangreiche Trainingsaufgaben und TPU 8i für schnelle KI-Antworten im April 2026 auf der Google Cloud Next vor. Beim Training wird ein Modell anhand von Beispielen erstellt oder verändert. Inferenz bezeichnet die Nutzung dieses Modells, um eine Antwort zu erzeugen oder eine Aufgabe auszuführen.

Google zufolge bietet TPU 8t bis zu 2,7-mal mehr Trainingsleistung als die Vorgängergeneration, während TPU 8i bei der Inferenz ein um 80 Prozent besseres Preis-Leistungs-Verhältnis erreicht. Die Vergleiche beziehen sich auf frühere Google-TPUs. Die neuesten Ergänzungen erweitern dieselbe Generation um vertrauliche Datenverarbeitung und Aufgaben, die deutlich mehr Speicherkapazität benötigen.

Amin Vahdat, Googles leitender Technologe und Senior Vice President für KI und Infrastruktur, beschrieb die Prioritäten in der Ankündigung so:

Da Unternehmen autonome Agenten produktiv einsetzen, haben wir zwei neue Konfigurationen dieser grundlegenden Systeme entwickelt, um zwei dringende neue Herausforderungen zu bewältigen: Datensicherheit auf Hardwareebene und Kontextfenster mit einer Million Tokens.

Google zufolge dauert die Entwicklung eines neuen Chips Jahre, während sich Gehäuse, Speicher, optische Vernetzung und Sicherheitsfunktionen rund um einen vorhandenen Chip innerhalb weniger Monate anpassen lassen. Der modulare Ansatz ermöglicht es den Ingenieuren, Systeme an veränderte Softwareanforderungen anzupassen, bevor ein völlig neuer Prozessor verfügbar ist.

Der Entwicklungs- und Auslieferungszeitplan umfasst nun:

• April 2026: Google stellte TPU 8t und TPU 8i auf der Google Cloud Next vor.
• Oktober 2026: Google zufolge veröffentlichte das Unternehmen TorchTPU als Open-Source-Software, um die PyTorch-Entwicklung auf TPUs zu unterstützen.
• 9. November 2026: Google kündigte TPU 8tx, TPU 8i Max und zusätzliche Infrastruktursoftware an.
• 2027: Die Auslieferung der neuen Systeme soll beginnen. Oracle will im selben Jahr seinen Cloud-Kunden den Zugang zu TPUs ermöglichen.

TPU 8tx schützt Informationen während der Verarbeitung

TPU 8tx richtet sich an Behörden und regulierte Unternehmen, darunter Finanz- und Gesundheitsorganisationen. Diese Kunden müssen möglicherweise KI hochsensible Unterlagen analysieren lassen und dabei sowohl die Informationen als auch die internen Parameter des Modells schützen.

Vertrauliche Datenverarbeitung schützt Informationen in dem Moment, in dem sie aktiv genutzt werden. Verschlüsselung schützt Daten bereits auf einem Laufwerk oder bei der Übertragung über ein Netzwerk. Während der Verarbeitung müssen Informationen normalerweise im Arbeitsspeicher zugänglich sein. Google zufolge bietet TPU 8tx Hardware-Schutzfunktionen, die sensible Daten und Modellgewichte in dieser Phase isolieren.

Die EPYC-Prozessoren der fünften Generation von AMD bilden die Host-Computing-Plattform. Das System verschlüsselt und authentifiziert außerdem die PCIe-Verbindungen, über die Informationen zwischen wichtigen Computerkomponenten übertragen werden. Die mit der Markteinführung veröffentlichten technischen Angaben nennen für TPU 8tx 216 GB Hochleistungsspeicher.

Google kombiniert das System mit seinem Boardfly-Netzwerk, über das Prozessoren schnell Informationen austauschen können. Das Unternehmen zufolge kann diese Konfiguration die Latenz im Vergleich zu TPU 8t um bis zu die Hälfte senken, während die Sicherheitsfunktionen die Leistung nahezu gar nicht beeinträchtigen. Latenz bezeichnet die Verzögerung, bis ein System einen Arbeitsschritt abschließt oder reagiert.

TPU 8tx unterstützt auch kleinere Trainingsaufgaben. Unternehmen können ein Modell anhand privater Informationen anpassen, ein größeres Modell durch einen als Destillation bezeichneten Prozess in ein kleineres übertragen oder Agenten mithilfe von bestärkendem Lernen trainieren, bei dem Rückmeldungen zur Verbesserung ihrer Aktionen dienen. Google zufolge können diese Aufgaben parallel zur Inferenz auf einem System laufen. Dadurch müssen sensible Informationen seltener zwischen getrennten Rechnerclustern verschoben werden.

TPU 8i Max bietet großen Aufgaben mehr Spielraum

TPU 8i Max setzt an einer anderen Grenze an: Prozessoren können Berechnungen schneller ausführen, als der Speicher die dafür benötigten Informationen bereitstellt. Google nennt das die Speicherbarriere. Zusätzliche Rechenleistung ist besonders dann hilfreich, wenn Speicherkapazität und Datentransferrate mitwachsen.

Das System vereint zwei TPU-8i-Chips in einem Gehäuse. Zu den technischen Daten gehören 384 GB Hochleistungsspeicher, eine Speicherbandbreite von 17,2 Terabyte pro Sekunde und 768 MB SRAM, ein schneller, auf dem Chip untergebrachter Speicher.

Google zufolge verdoppelt das Gehäuse im Vergleich zu TPU 8i die Rechenkapazität, den SRAM und die Bandbreite des Hochleistungsspeichers. Die Kapazität des Hochleistungsspeichers steigt um 33 Prozent. Damit wächst die gespeicherte Informationsmenge langsamer als die Geschwindigkeit, mit der Informationen übertragen werden können.

Zu den vorgesehenen Aufgaben zählen die Verarbeitung ganzer Software-Codebasen, umfangreicher Dokumente, stundenlanger Videos und zusammenarbeitender Agentengruppen. Das System ist auf Kontextfenster in der Größenordnung von einer Million Tokens ausgelegt. Ein Kontextfenster umfasst die Informationen, auf die ein Modell bei der Bearbeitung einer Anfrage zurückgreifen kann. Tokens sind kleine Text- oder Inhaltseinheiten, die das Modell verarbeitet.

Bei einer Programmieraufgabe kann der zusätzliche Speicherplatz es einem Agenten ermöglichen, mehr zusammengehörige Dateien verfügbar zu halten, während er ein Problem untersucht. Auch die Arzneimittelforschung und mathematische Aufgaben zählen zu den vorgesehenen Anwendungsbereichen. Google zufolge erhöht sich durch die doppelte Chipfläche innerhalb des bestehenden Rack-Platzbedarfs zudem die Rechenkapazität pro Quadratfuß und Watt.

KI-Agenten erzeugen mehr Arbeit als nur eine einzelne Antwort

Mark Lohmeyer, Vice President und General Manager für KI- und Computing-Infrastruktur bei Google Cloud, sagte, eine einzelne Anfrage an einen Agenten könne Hunderte oder Tausende Vorgänge auslösen. Je nach Aufgabe könne dieser Wandel den Rechenbedarf um das Zehn- bis Tausendfache steigern, schätzte er.

Ein Agent kann eine Anfrage in mehrere Schritte aufteilen, eine Datenbank abfragen, Code schreiben, ein weiteres Softwarewerkzeug aufrufen und auf die Freigabe eines Menschen warten. Dieses Muster erfordert schnelle Kommunikation zwischen Prozessoren, dauerhaft verfügbaren Arbeitsspeicher und Schutz für Informationen, die mehrere Systeme durchlaufen.

Google will außerdem die Kosten für Pausen zwischen diesen Vorgängen senken. Die neue Agent Compute Engine setzt ungenutzte Agentensitzungen automatisch aus und nimmt sie wieder auf. So werden Ressourcen frei, während ein Agent auf eine Datenbankantwort, ein externes Werkzeug oder Rückmeldung eines Menschen wartet.

Das praktische Ziel ist, zu verhindern, dass teure Prozessoren durch Sitzungen belegt bleiben, für die gerade keine Berechnungen anstehen. Wer viele Agenten gleichzeitig betreibt, muss solche Pausen mitverwalten, um die Infrastrukturkosten zu kontrollieren.

Software soll den Wechsel der Hardware erleichtern

Googles Ausbau der Hardware ist Teil eines umfassenderen Vorhabens, TPUs leichter zugänglich zu machen. Nvidias starke Position beruht auch auf der Software, die Entwickler bereits nutzen. Deshalb setzt Google neben neuen Prozessoren auf Unterstützung für vertraute Entwicklungstools.

TorchTPU, das gemeinsam mit Meta und der PyTorch-Community entwickelt wurde, bietet ein natives TPU-Backend für PyTorch, ein weitverbreitetes Framework zur Entwicklung von KI-Modellen. Google zufolge lassen sich vorhandener PyTorch-Code und Modelle von Hugging Face ohne Anpassungen auf TPUs ausführen. Bei der Vorstellung hieß es, für eine einfache Einrichtung seien nur zwei zusätzliche Codezeilen nötig.

Googles Ankündigung zur Cloud-Infrastruktur nennt außerdem TPU-Unterstützung für vLLM und SGLang, quelloffene Engines zur Bereitstellung von KI-Modellen. Die Zusammenarbeit mit Inferact und RadixArk unterstützt einen umfassenderen Ansatz, bei dem Kunden sowohl TPUs als auch Grafikprozessoren betreiben können.

Mit der neuen XLA Serving Engine können Entwickler Modelle in Python trainieren und sie über eine C++-Laufzeitumgebung auf TPUs, GPUs und CPUs bereitstellen. Eine TPU-Agentensuite in der Vorschauversion ist mit Programmierwerkzeugen wie Claude Code, Cursor und Google Antigravity verbunden. Sie soll bei der Konfiguration von Arbeitslasten und beim Erkennen von Engpässen helfen.

Google verweist auf ein starkes Preis-Leistungs-Verhältnis bei den Tests InferenceX und AgentX für Programmieragenten und Aufgaben mit großen Kontextfenstern. Dabei handelt es sich um Leistungsangaben des Unternehmens. Käufer müssen die Kosten, Reaktionsgeschwindigkeit und Genauigkeit ihrer eigenen Anwendungen vergleichen, wenn sie sich für eine Infrastruktur entscheiden.

Speicherverwaltung wird Teil des Produkts

Googles neue TPU-Sync-Software geht über den direkt an einen Beschleuniger angeschlossenen Speicher hinaus. Sie koordiniert den Chipspeicher, den Arbeitsspeicher des Host-Computers, gemeinsam genutzten Speicherplatz und das Rechenzentrumsnetzwerk, damit eine Arbeitslast diese als verschiedene Ebenen eines größeren Speichersystems nutzen kann.

Ein zentrales Ziel ist der KV-Cache, der gespeicherte Arbeitsstand eines Modells zu bereits verarbeiteten Inhalten. Große Kontextfenster und viele gleichzeitig laufende Agenten können diese Caches sehr umfangreich machen. TPU Sync kann sie innerhalb von Millisekunden vom Chip verschieben und so den kostspieligen Beschleunigerspeicher für aktive Aufgaben freihalten.

Google zufolge kann die Software die Latenz bei der Übertragung des KV-Caches und die Zeit bis zur ersten Antwort um mehr als 90 Prozent senken. Sie unterstützt außerdem die Übertragung von Kontext zwischen verschiedenen Verarbeitungsstufen und die Synchronisierung von Modellgewichten während des bestärkenden Lernens.

Zwei weitere Neuerungen betreffen die Organisation von Clustern. Cloud Pathways ist jetzt allgemein über Google Kubernetes Engine verfügbar und ermöglicht es einer einzelnen Steuereinheit, verteilte TPU-Aufgaben zu koordinieren. GKE Dynamic Slicing nutzt optische Schaltkreise, um größere TPU-Gruppen zusammenzustellen oder sie bei veränderten Anforderungen in kleinere, voneinander isolierte Gruppen aufzuteilen.

Google zufolge kann Dynamic Slicing den Start von Aufträgen um bis zu das Fünffache und die Fehlerbehebung um bis zu das 4,5-Fache beschleunigen. Zusammen sollen diese Werkzeuge dasselbe wirtschaftliche Problem lösen wie die neue Hardware: installierte Rechenkapazität mit weniger Wartezeit für nützliche Arbeit einzusetzen.

Ein größeres Geschäft über Google Cloud hinaus

Google zufolge hat das TPU-Geschäft inzwischen knapp 100 Kunden, darunter KI-Labore, Handelsfirmen, Einzelhändler und Universitäten. Das Unternehmen weitet den Zugang über die eigene Cloud hinaus aus, auch durch direkte Installationen in Kundenrechenzentren. Ausgewählte Kunden können TPU 8tx in ihren eigenen Räumlichkeiten einsetzen.

Oracle hat angekündigt, seinen Cloud-Kunden ab 2027 Zugang zu TPUs anzubieten. Anthropic hat Optionen zum Kauf von Chips im Wert von bis zu 150 Milliarden Dollar zwischen 2028 und 2031. Auch OpenAI soll TPU-Käufe planen. Die Summe für Anthropic bezeichnet den möglichen Kaufhöchstwert im Rahmen dieser Optionen.

Jump Trading zeigt, dass Kunden für unterschiedliche Aufgaben verschiedene Hardware wählen. Das Unternehmen zufolge verbessern TPUs bei bestimmten Aufgaben die Energieeffizienz und senken die Kosten, während Nvidia-Produkte seine wichtigste Plattform für das Training von KI-Modellen bleiben.

Der Analyst Mandeep Singh schätzt, dass TPUs etwa 30 Prozent weniger kosten als Nvidia-GPUs und zugleich eine konkurrenzfähige Datenverarbeitungsleistung bieten. Einer Forschungsprognose zufolge könnten die TPU-Umsätze einschließlich zugehöriger Hardware und Software 2026 rund 12 Milliarden Dollar und 2028 mehr als 135 Milliarden Dollar erreichen. Einnahmen von Kunden, die über Google Cloud auf TPUs zugreifen, sind darin nicht enthalten.

Diese Prognose entspräche innerhalb von zwei Jahren einem Wachstum auf mehr als das Elffache des Werts von 2026, wenn man 135 Milliarden Dollar durch 12 Milliarden Dollar teilt. Sie beschreibt eine sehr rasche Expansion, deren Umsetzung von Fertigungskapazitäten, den Ausgaben der Kunden und den Zeitplänen für die Inbetriebnahme abhängt.

Lieferengpässe und Bauvorschriften begrenzen das Wachstum

Google erklärte im Oktober, Kunden hätten bereits alle TPUs reserviert, die das Unternehmen liefern könne. Engpässe bei Speicherchips und begrenzte Fertigungskapazitäten bleiben ein Problem. Vahdats Team arbeitet daran, die Lieferquellen breiter aufzustellen.

Branchenanalysen ordnen die fortschrittliche Fertigung und Systemverpackung der TPU-Familie der achten Generation dem Ökosystem der Taiwan Semiconductor Manufacturing Company zu. Die wachsende TPU-Nachfrage eröffnet damit auch Zulieferern in Taiwan Chancen, während der Zugang zu fortschrittlichen Fertigungs- und Verpackungskapazitäten zu einer praktischen Herausforderung wird.

Beim Bau von Rechenzentren gibt es eine weitere Einschränkung. Singh schätzt, dass der Widerstand gegen neue Anlagen die für 2027 prognostizierten Infrastrukturinvestitionen der Technologiebranche in Höhe von 1,4 Billionen Dollar um etwa fünf bis sieben Prozent verringern könnte. Auf diese Prognose angewandt entspräche das einem Rückgang von rund 70 bis 98 Milliarden Dollar.

Eine höhere Rechendichte kann Betreibern helfen, innerhalb bestehender Gebäude mehr zu leisten. Dadurch bekommt TPU 8i Max dort eine praktische Rolle, wo der Platz knapp ist. Google muss dennoch Chips und Speicher beschaffen, Systeme ausliefern und ein profitables Geschäft aufbauen. Singh zufolge liegen die Gewinnmargen von TPUs weiterhin unter denen von Nvidia.

Der Wettbewerb dreht sich inzwischen nicht mehr nur um die maximale Verarbeitungsgeschwindigkeit. Google kombiniert vertrauliche Datenverarbeitung, größere Speichersysteme, vertraute Software und flexiblere Einsatzmöglichkeiten, um bestimmte Arbeitslasten zu gewinnen. Wie schnell aus Kundenreservierungen Umsatz wird, hängt davon ab, ob Google diese Systeme liefern kann.

Wichtigste Punkte

• Google kündigte TPU 8tx und TPU 8i Max am 9. November 2026 an. Die Auslieferung soll 2027 beginnen.
• TPU 8tx kombiniert vorhandene TPU-8t-Chips mit AMD-EPYC-Hostprozessoren und Hardware-Schutzfunktionen für sensible Daten während der Verarbeitung.
• TPU 8i Max vereint zwei TPU-8i-Chips und bietet 384 GB Hochleistungsspeicher sowie die doppelte Rechenkapazität und Speicherbandbreite von TPU 8i.
• Google stellte 2026 vier TPU-Systeme vor und hat nach eigenen Angaben knapp 100 Kunden für sein TPU-Geschäft.
• TorchTPU, TPU Sync und weitere Software-Neuerungen sollen die Entwicklung vereinfachen und Leerlaufzeiten der Rechenleistung verringern.
• Der Zugang über Oracle und direkte Installationen bei Kunden erweitern Googles Markt. Engpässe bei Speicher, Fertigung und Bau begrenzen jedoch das Wachstum.