9 Nachrichten
AMD Primus Projection ist ein Werkzeug, das vor dem Start eines LLM-Trainings auf Instinct-GPU-Clustern Speicherbedarf und Durchsatz vorhersagt. Es kombiniert analytische Formeln mit echtem GPU-Benchmarking, und die Projektionen liegen innerhalb von ~10 % der gemessenen Ergebnisse auf MI325X- und MI355X-Beschleunigern für Llama- und Mixtral-Modelle.
Google präsentierte auf der Cloud Next '26 zwei neue TPU-Chip-Generationen: TPU 8i für die KI-Agenteninterferenz und TPU 8t für das Training der komplexesten Modelle. Der Schritt formalisiert die Aufteilung von Googles TPU-Linie in zwei spezialisierte Zweige im Rahmen der 'agentischen Ära' des Computings.
NVIDIA und Google Cloud haben eine gemeinsame Zusammenarbeit angekündigt, um Agentic-AI- und Physical-AI-Workloads zu beschleunigen — dabei wird NVIDIAs GPU-Infrastruktur mit der Google Cloud Platform für Robotik, autonome Systeme und Agenten kombiniert.
NVIDIA und HuggingFace demonstrierten Gemma 4 als Vision Language Agent, der autonom über den Kameraeinsatz entscheidet und die gesamte Pipeline inklusive Speech-to-Text und TTS lokal auf einem NVIDIA Jetson Orin Nano Super mit 8 GB Speicher ausführt — ohne Cloud-Abhängigkeit.
Auf der Cloud Next '26 stellte Google die achte Generation seiner TPU-Chips in zwei spezialisierten Varianten vor — TPU 8t für das Modelltraining und TPU 8i für agentische Inferenz. Es ist die erste Generation, die gezielt für autonome KI-Agenten und mehrstufiges Reasoning entwickelt wurde.
AWS G7e-Instanzen sind neue SageMaker-GPU-Instanzen mit dem NVIDIA RTX PRO 6000 Blackwell-Chip und 96 GB GDDR7-Speicher, die bis zu 2,3× bessere Inferenz als G6e bieten. Die Kosten für Qwen3-32B sinken von 2,06 $ auf 0,79 $ pro Million Output-Tokens, und mit EAGLE-spekultativem Decoding sogar auf 0,41 $.
Amazon Web Services hat eine detaillierte Implementierung von Speculative Decoding auf AWS-Trainium-Chips in Kombination mit dem vLLM-Framework veröffentlicht und erreicht dabei bis zu dreifach schnellere Token-Generierung für decode-intensive Arbeitslasten. Die Technik nutzt ein kleineres Draft-Modell, das die nächsten N Token vorhersagt, während ein größeres Target-Modell diese in einem einzigen Durchlauf verifiziert und so den Engpass der sequenziellen Generierung beseitigt.
NVIDIA hat eine Analyse veröffentlicht, die argumentiert, dass die Kosten pro Token die einzige relevante Metrik für KI-Infrastruktur sind. Der Vergleich der Blackwell- und Hopper-Generationen zeigt, dass Blackwell pro GPU-Stunde doppelt so viel kostet, aber 65-mal mehr Token pro Sekunde generiert, was zu 35-mal niedrigeren Kosten pro Million Token führt — 0,12 Dollar gegenüber 4,20 Dollar für Hopper.
Im Rahmen der National Robotics Week 2026 hat NVIDIA eine Reihe neuer Physical-AI-Projekte vorgestellt, darunter RoboLab — einen Benchmark für Simulation-to-Reality-Transfer, Kooperationen mit dem Toyota Research Institute, Mimic Robotics und Doosan Robotics sowie offene Ressourcen für die Evaluierung von Roboter-Policies wie Isaac Lab-Arena.