Am 2026-10-26 teilte a16z mit, dass die Token-Nachfrage bei OpenRouter seit November letzten Jahres um etwa das 27-Fache gestiegen sei, während die Mieten für Nvidia-GPUs weiterhin über einer Standardbasis für sechsjährige Abschreibung lagen.
In a16z’ State of AI wurde der wöchentliche OpenRouter-Traffic mit rund 165 Billionen Token angegeben, gegenüber etwa 6 Billionen. Modelle mit offenen Gewichten verarbeiten inzwischen etwa 72 % der Token, verglichen mit rund 28 % im vergangenen November.
a16z zeigte zudem bei mehreren GPUs Mietaufschläge über dieser Basis, darunter beim H200 mit +143 %. Wie die Analyse von XenoSpectrum festhält, entspricht dieser H200-Wert nicht einem Preisanstieg seit Jahresbeginn. Er beschreibt die Differenz zwischen den aktuellen Mietpreisen und einem linearen Abschreibungsmodell, das auf früh beobachteten Preisen basiert.
Warum das wichtig ist: Teams, die ihre Inferenzkosten senken wollen, können weiterhin auf teure Beschleunigerkapazitäten treffen. Sinkende Preise pro Token und eine steigende Modellnutzung garantieren keine günstigere Bereitstellung, wenn GPU-Mieten hoch bleiben.