Anthropic indique que Claude Code commence désormais à répondre bien plus vite grâce au gzip des requêtes et au préchauffage des sessions.
Claude Code compresse la conversation envoyée à chaque tour, réduisant le temps de téléversement pour les contextes volumineux. Selon AICoder, les sessions cloud commencent à chauffer dès que l’utilisateur commence à saisir du texte, au lieu d’attendre l’envoi.
Selon Anthropic, l’attente p90 avant le premier token est passée de 4.07 secondes à 1.33 secondes pour les sessions locales, et de 16.99 secondes à 6.00 secondes dans le cloud. Ces mesures excluent le temps d’inférence du modèle : les gains viennent donc du transport et du démarrage, et non d’une génération plus rapide.
Pour les builders, la marche à suivre est concrète : compresser les charges conversationnelles longues, préchauffer les environnements d’exécution tôt et tester la compatibilité des proxys. Ces changements suivent l’approche axée sur la latence décrite dans l’analyse technique plus large d’Anthropic.