Anthropic zufolge beginnt Claude Code nach der Einführung von gzip für Anfragen und dem Vorwärmen von Sitzungen deutlich schneller zu antworten.
Claude Code komprimiert die bei jedem Zug übermittelte Unterhaltung und verkürzt so die Upload-Zeit bei großen Kontexten. Cloud-Sitzungen werden laut AICoder bereits aufgewärmt, sobald Nutzende mit der Eingabe beginnen, statt erst nach dem Absenden.
Die von Anthropic gemeldete p90-Wartezeit bis zum ersten Token sank bei lokalen Sitzungen von 4.07 Sekunden auf 1.33 Sekunden und in der Cloud von 16.99 Sekunden auf 6.00 Sekunden. Diese Messungen schließen die Modell-Inferenzzeit aus, sodass die Verbesserungen auf Übertragung und Initialisierung statt auf einer schnelleren Generierung beruhen.
Für Builder ist der Ansatz praxisnah: Komprimieren Sie umfangreiche Konversations-Payloads, wärmen Sie Ausführungsumgebungen frühzeitig vor und testen Sie die Proxy-Kompatibilität. Die Änderungen folgen dem latenzorientierten Ansatz, den Anthropic in seinem ausführlicheren Engineering-Bericht beschreibt.