Mengapa belanja Token meningkat lebih cepat ketika pertumbuhan penggunaan melambat?

  • Sampel OpenRouter yang dipantau J.P. Morgan menunjukkan belanja Token naik 40% secara bulanan pada Oktober, lebih cepat daripada 28% pada September; namun penggunaan Token tumbuh 25% secara bulanan, di bawah 71% pada September.
  • Struktur harga mendorong belanja lebih tinggi: harga Token tertimbang berdasarkan penggunaan naik 12% secara bulanan pada Oktober, dengan penggunaan model berharga tinggi Claude Opus 5.5 bertambah sekitar 7,9 triliun Token; beberapa model yang sudah ada juga menaikkan harga. Misalnya, harga GPT-5.6 Sol menjadi dua kali lipat setelah diskon setengah harganya berakhir.
  • Harga tidak naik secara menyeluruh: rata-rata sederhana harga Token turun 5% secara bulanan pada Oktober, dan meskipun harga tertimbang berdasarkan penggunaan pulih secara bulanan, harganya masih turun 38% secara tahunan.

Permintaan apa saja yang tercakup dalam data Token ini?

  • Bank tersebut mengambil sampel data selama satu minggu setiap bulan, dengan memantau sekitar 300 model besar di platform OpenRouter. Lalu lintas platform cenderung berasal dari pengembang, perusahaan rintisan, dan pemrograman berbasis agen, serta tidak mencakup lalu lintas yang secara langsung memanggil endpoint yang dihosting OpenAI, Anthropic, dan penyedia cloud skala besar.
  • Model sumber tertutup menyumbang 28% penggunaan Token pada Oktober, tetapi menyerap 77% belanja; belanjanya tumbuh 49% secara bulanan, lebih tinggi daripada 15% untuk model sumber terbuka. Perbedaan porsi penggunaan dan belanja model membantu menjelaskan bagaimana model berharga tinggi memengaruhi total belanja.

Apa sinyal dari harga sewa GPU?

  • Dalam kapasitas komputasi GPU yang disediakan oleh penyedia selain penyedia cloud skala besar, rata-rata harga sewa A100 pada Oktober turun 3,5% secara bulanan menjadi 1.53 dolar per jam GPU; H100 pulih 6,5% menjadi 2.83 dolar.
  • Rata-rata harga sewa B200 naik 4,7% secara bulanan menjadi 6.00 dolar per jam GPU, lebih tinggi daripada kenaikan 1,8% pada September; tetapi kelipatan harganya terhadap H100 turun dari 2.16 kali pada September menjadi 2.12 kali. Arah harga sewa dan harga relatif model baru dan lama berbeda.

Mengapa sebagian harga memori melemah sementara yang lain masih mendapat dukungan?

  • Pada Oktober, harga spot DDR5 16Gb pulih 4,4% secara bulanan menjadi 51.80 dolar, mengakhiri penurunan kecil pada September; sementara harga spot NAND 1Tb turun 2,6% secara bulanan menjadi 29.40 dolar, turun untuk bulan kedua berturut-turut.
  • TrendForce memperkirakan harga kontrak DRAM konvensional dan NAND masing-masing naik 10%–15% dan 15%–20% secara kuartalan pada kuartal keempat 2026, lebih rendah daripada 16% dan 21% pada kuartal ketiga. Kenaikan harga sebelumnya, tekanan pada permintaan konsumen, persediaan pembeli SSD klien yang memadai, dan sejumlah perjanjian harga DRAM server jangka panjang bersama-sama memperlambat kenaikan tersebut.
  • Sementara itu, permintaan server AI dan pergeseran kapasitas ke produk server terus menopang harga; TrendForce memperkirakan SSD perusahaan menjadi satu-satunya kategori memori yang kenaikan harganya lebih cepat pada kuartal keempat.