Warum KI jetzt eine Hardware-Geschichte ist
Moderne KI ist größtenteils riesige lineare Algebra unter brutalen Randbedingungen: Strom, Speicherbandbreite, Latenz, Interconnect und Kosten. GPUs haben gewonnen, weil sie programmierbar und massiv parallel sind. Custom Chips existieren, weil Hyperscaler enorm viel Geld sparen können, wenn ein Workload vorhersehbar genug ist, um ihn in Silizium zu gießen.
Der zentrale Trade-off ist Spezialisierung versus Flexibilität. Ein Custom ASIC kann weit effizienter sein als eine generische GPU – aber nur, wenn Modelle, Operatoren, Compiler und Deployment-Maßstab den Verlust an Flexibilität rechtfertigen.
Vor dem Chip die Anforderungen klären
Das sind qualitative Prüffragen und keine Benchmark-Punkte. Die Chipfamilien überschneiden sich: Eine TPU ist ein ASIC; NPU bezeichnet unterschiedliche Beschleuniger. Ob etwas funktioniert, hängt vom konkreten Gerät und der unterstützten Runtime ab.
- 1. Passen Modell und KV-Cache in den erreichbaren Speicher?
- 2. Unterstützt der Compiler beziehungsweise die Runtime alle benötigten Operatoren und Präzisionen?
- 3. Welche Latenz und welchen Durchsatz braucht die konkrete Aufgabe?
- 4. Welches Budget gibt es für Strom und Kühlung?
- 5. Was kosten Hardware, Hosting und Entwicklungsarbeit?
GPU
GPU: breite Software-Unterstützung und flexible Kernels. Konkreten Speicher, Verbindungen und unterstützte Präzisionen prüfen.
TPU
TPU: Tensorbeschleuniger mit einem bestimmten Compiler und verteilten System. Modellunterstützung und Zugang zur benötigten Generation prüfen.
NPU
NPU: häufig für lokale Inferenz mit begrenzter Leistungsaufnahme gedacht. Speicher, Operatoren und Herstellerwerkzeuge können die Modellauswahl begrenzen.
ASIC
Eigener ASIC: spezialisiert Hardware auf eine Aufgabe. Entwicklungskosten, Stückzahl und Software entscheiden, ob sich das lohnt.
FPGA
FPGA: rekonfigurierbare Logik für eine eigene Pipeline. Operatoren abzubilden und Speicherbandbreite auszunutzen erfordert Entwicklungsarbeit.
Der strategische Grund, warum Unternehmen eigene Chips bauen
Bei Custom Silicon geht es nicht nur um Spitzengeschwindigkeit. Es geht um Liefersicherheit, Marge, Roadmap-Kontrolle und darum, totale Abhängigkeit von einem einzigen Anbieter zu vermeiden. Google TPUs, AWS Trainium und Inferentia, Microsoft Maia und Meta MTIA spiegeln alle denselben Druck wider: Die KI-Nachfrage ist so groß, dass Hardware zur Produktstrategie wird.
Aber das Risiko ist real: Ist der Software-Stack schwach oder verschiebt sich die Modellarchitektur, kann ein spezialisierter Chip zur teuren Sackgasse werden. Die gewinnende Plattform ist meist Chip plus Compiler plus Kernels plus Networking plus Developer Experience.
JAX Scaling Book: Rooflines