Model ringan berbobot terbuka dari Tiongkok berekspansi ke luar negeri: biaya inferensi rendah mendorong permintaan, efisiensi komputasi menentukan daya saing
Seorang pakar Together AI yang diwawancarai Nomura mengatakan DeepSeek 4.1 Flash sangat populer di platform tersebut berkat kemampuannya yang memadai untuk tugas sehari-hari dan biaya yang lebih rendah; aplikasi agen dan permintaan komputasi luar negeri dari pengembang model Tiongkok juga membuka peluang bagi penyedia inferensi.
Sumber asli：Nomura International (Hong Kong) Ltd.Pertama diterbitkan di Unhidea：Tanggal sumber asli：
Pokok utama
Model ringan berbobot terbuka dari Tiongkok memperluas penggunaan di luar negeri melalui kombinasi biaya dan kemampuan, sementara manfaat bagi penyedia inferensi bergantung pada efisiensi pemanfaatan kapasitas komputasi, permintaan pelanggan, dan syarat kerja sama lintas batas.
Mengapa model ringan populer di luar negeri?
Pakar Together AI yang diwawancarai Nomura mengamati bahwa model berbobot terbuka dari Tiongkok berada di posisi terdepan dalam pasar model berbobot terbuka luar negeri yang ia amati, berkat kombinasi kemampuan dan biaya.
DeepSeek 4.1 Flash merupakan salah satu model terpopuler di platform Together AI, bahkan melampaui sebagian model unggulan berbobot terbuka: model ini dapat memenuhi kebutuhan tugas sehari-hari, sementara biaya inferensinya jauh lebih rendah daripada model unggulan berukuran besar.
Pakar tersebut menilai pengembang model Tiongkok akan terus memajukan kemampuan model terdepan sekaligus mengubah hasil teknologi menjadi model yang lebih efisien dari segi biaya untuk penggunaan komersial berskala besar.
Mengapa agen dapat meningkatkan permintaan inferensi?
Pakar tersebut mengamati bahwa penggunaan model di luar negeri sedang bergeser dari percakapan tradisional ke alur kerja agen. Alur kerja ini sering melibatkan konteks yang lebih panjang dan inferensi dalam beberapa putaran, sehingga menggunakan jauh lebih banyak token per tugas dan berpotensi terus mendorong permintaan inferensi.
Kemampuan model, kecepatan inferensi, dan total biaya penggunaan tetap menjadi pertimbangan utama pengembang dalam memilih model; perusahaan besar juga memperhatikan privasi data, lokasi pusat data, dan kepatuhan regulasi.
Bagaimana Together AI melayani permintaan luar negeri?
Together AI menghosting model berbobot terbuka secara independen dan melayani pengembang serta pelanggan yang lebih kecil melalui layanan yang mengenakan biaya berdasarkan penggunaan token; penerapan lokalnya di luar negeri juga memungkinkan perusahaan dengan persyaratan residensi data dan kepatuhan untuk menggunakan model tersebut.
Inferensi khusus menyediakan kapasitas komputasi GPU yang dicadangkan bagi perusahaan besar dan pengembang model serta menyesuaikan lingkungan penerapan. Pakar tersebut mengatakan bisnis ini menyumbang porsi yang jauh lebih besar dari bisnis inferensi Together AI.
Sebagian pengembang model Tiongkok bekerja sama dengan Together AI dan memprioritaskan kapasitas komputasi internal untuk pelatihan dan pengembangan; Together AI menyediakan infrastruktur dan layanan model, sementara pengembang mempertahankan hubungan pelanggan dan pendapatan API. Nomura menilai ini sebagai cara yang relatif ringan aset untuk memperluas kapasitas inferensi.
Together AI juga menyediakan klaster GPU dan infrastruktur pusat data. Pakar tersebut menilai ini mungkin merupakan sumber pendapatan terbesarnya, tetapi margin kotornya lebih rendah daripada layanan inferensi.
Apa yang menentukan keunggulan dalam persaingan harga inferensi?
Seiring meningkatnya persaingan harga API, keekonomian inferensi tidak hanya bergantung pada biaya GPU, tetapi juga pada jumlah token yang dapat diproses dan pendapatan yang dapat dihasilkan per jam GPU. Peningkatan utilisasi dan throughput membantu mempertahankan daya saing biaya dan margin laba.
Pakar tersebut mengatakan DeepSeek memiliki kemampuan rekayasa inferensi yang kuat; kerangka DeepInfer yang dipublikasikannya dapat meningkatkan pemanfaatan sumber daya dan throughput, tetapi optimasi sistem dan integrasi infrastruktur dalam lingkungan produksi bersifat rumit, sehingga penyedia lain sulit meniru efisiensi aktualnya. Together AI sedang mencoba menyesuaikan teknologi serupa dengan GPU dan lingkungan produksinya sendiri.
Apa saja kendala yang berbeda dalam penerapan lintas batas?
Pakar tersebut menilai risiko komersial langsung dari hosting independen oleh pihak ketiga atas model dengan bobot yang tersedia secara publik relatif kecil, tetapi ketentuan lisensi dan regulasi yang berlaku tetap harus dipatuhi.
Inferensi khusus melibatkan hubungan komersial yang lebih langsung dengan pengembang model Tiongkok, mungkin menghadapi pengawasan regulasi yang lebih ketat, dan lebih rentan terhadap perubahan kontrol ekspor teknologi atau pembatasan komputasi lintas batas. Hingga saat wawancara, pakar tersebut mengatakan kerja sama yang ada belum terganggu secara material oleh perkembangan regulasi terbaru.
