Por que os gastos com tokens aceleraram enquanto o crescimento do uso desacelerou?

  • A amostra da OpenRouter acompanhada pelo J.P. Morgan mostra que os gastos com tokens subiram 40% em outubro em relação ao mês anterior, mais rapidamente que os 28% de setembro; o uso de tokens, porém, cresceu 25% em relação ao mês anterior, abaixo dos 71% de setembro.
  • A composição dos preços elevou os gastos: o preço dos tokens ponderado pelo uso subiu 12% em outubro em relação ao mês anterior, com o uso do modelo caro Claude Opus 5.5 aumentando em cerca de 7,9 trilhões tokens; alguns modelos existentes também ficaram mais caros. Por exemplo, o preço do GPT-5.6 Sol dobrou após o fim do desconto de metade do preço.
  • Os preços não subiram de forma generalizada: o preço médio simples dos tokens caiu 5% em outubro em relação ao mês anterior; embora o preço ponderado pelo uso tenha se recuperado na comparação mensal, ainda estava 38% abaixo do nível de um ano antes.

Que demanda esses dados de tokens abrangem?

  • O banco coleta uma amostra de uma semana de dados por mês, acompanhando cerca de 300 modelos grandes na plataforma OpenRouter. O tráfego da plataforma é concentrado em desenvolvedores, startups e programação com agentes, e não inclui o tráfego que acessa diretamente endpoints hospedados pela OpenAI, Anthropic e provedores de nuvem em hiperescala.
  • Os modelos de código fechado responderam por 28% do uso de tokens em outubro, mas por 77% dos gastos; os gastos com eles cresceram 49% em relação ao mês anterior, acima dos 15% dos modelos de código aberto. A diferença entre as participações dos modelos no uso e nos gastos ajuda a explicar como modelos caros afetam os gastos totais.

Que sinais os preços de aluguel de GPUs estão dando?

  • Entre a capacidade de computação GPU fornecida por empresas que não são provedoras de nuvem em hiperescala, o preço médio de aluguel da A100 caiu 3,5% em outubro em relação ao mês anterior, para 1.53 dólares por hora de GPU; o da H100 subiu 6,5%, para 2.83 dólares.
  • O preço médio de aluguel da B200 subiu 4,7% em relação ao mês anterior, para 6.00 dólares por hora de GPU, uma alta superior aos 1,8% de setembro; mas seu múltiplo de preço em relação à H100 caiu de 2.16 vezes em setembro para 2.12 vezes. A direção dos preços de aluguel e os preços relativos diferiram entre modelos novos e antigos.

Por que alguns preços de memória enfraquecem enquanto outros continuam sustentados?

  • Em outubro, o preço à vista da DDR5 de 16 Gb subiu 4,4% em relação ao mês anterior, para 51.80 dólares, encerrando a pequena queda de setembro; o preço à vista da NAND de 1 Tb caiu 2,6% em relação ao mês anterior, para 29.40 dólares, recuando pelo segundo mês consecutivo.
  • A TrendForce prevê que os preços contratuais de DRAM convencional e NAND subam, respectivamente, 10%–15% e 15%–20% no quarto trimestre de 2026 em relação ao trimestre anterior, abaixo dos 16% e 21% do terceiro trimestre. As altas anteriores, a pressão sobre a demanda de consumo, os estoques suficientes dos compradores de SSDs para clientes e alguns acordos de preços de longo prazo para DRAM de servidores, em conjunto, desaceleraram as altas.
  • Enquanto isso, a demanda por servidores de IA e a mudança de capacidade para produtos destinados a servidores continuam sustentando os preços; a TrendForce prevê que os SSDs empresariais sejam a única categoria de memória cuja alta de preços se acelere no quarto trimestre.