Model ringan dengan pemberat terbuka dari China berkembang ke luar negara: kos inferens rendah memacu permintaan, kecekapan pengkomputeran menentukan daya saing
Seorang pakar Together AI yang ditemu bual oleh Nomura berkata DeepSeek 4.1 Flash sangat popular di platform itu kerana kemampuannya yang mencukupi untuk tugasan harian dan kos yang lebih rendah; aplikasi ejen serta permintaan pengkomputeran luar negara daripada pembangun model China turut membuka peluang kepada penyedia inferens.
Sumber asal：Nomura International (Hong Kong) Ltd.Pertama diterbitkan di Unhidea：Tarikh sumber asal：
Inti utama
Model ringan dengan pemberat terbuka dari China sedang memperluas penggunaan di luar negara melalui gabungan kos dan kemampuan, sementara manfaat kepada penyedia inferens bergantung pada kecekapan penggunaan kapasiti pengkomputeran, permintaan pelanggan dan syarat kerjasama rentas sempadan.
Mengapa model ringan popular di luar negara?
Pakar Together AI yang ditemu bual oleh Nomura memerhatikan bahawa model pemberat terbuka China mendahului pasaran model pemberat terbuka luar negara yang diperhatikannya, berkat gabungan kemampuan dan kos.
DeepSeek 4.1 Flash ialah antara model paling popular di platform Together AI, malah lebih popular daripada beberapa model unggulan pemberat terbuka: ia memenuhi keperluan tugasan harian, manakala kos inferensnya jauh lebih rendah daripada model unggulan bersaiz besar.
Pakar itu berpendapat pembangun model China akan terus memajukan keupayaan model termaju sambil menukar hasil teknologi kepada model yang lebih cekap dari segi kos untuk penggunaan komersial berskala besar.
Mengapa ejen mungkin meningkatkan permintaan inferens?
Pakar itu memerhatikan bahawa penggunaan model di luar negara sedang beralih daripada perbualan tradisional kepada aliran kerja ejen. Aliran kerja ini lazimnya melibatkan konteks yang lebih panjang dan inferens berbilang pusingan, menggunakan jauh lebih banyak token bagi setiap tugasan dan berpotensi terus memacu permintaan inferens.
Keupayaan model, kelajuan inferens dan jumlah kos penggunaan kekal sebagai pertimbangan utama pembangun dalam memilih model; perusahaan besar juga memberi perhatian kepada privasi data, lokasi pusat data dan pematuhan peraturan.
Bagaimanakah Together AI memenuhi permintaan luar negara?
Together AI mengehoskan model pemberat terbuka secara bebas dan menawarkan perkhidmatan kepada pembangun serta pelanggan yang lebih kecil dengan caj berdasarkan penggunaan token; penggunaan setempatnya di luar negara juga membolehkan perusahaan yang mempunyai keperluan penempatan data dan pematuhan menggunakan model ini.
Inferens khusus pula memperuntukkan kapasiti pengkomputeran GPU untuk perusahaan besar dan pembangun model serta menyesuaikan persekitaran penggunaan. Pakar itu berkata perniagaan ini merangkumi bahagian yang jauh lebih besar daripada perniagaan inferens Together AI.
Sesetengah pembangun model China bekerjasama dengan Together AI dan mengutamakan kapasiti pengkomputeran dalaman untuk latihan serta pembangunan; Together AI menyediakan infrastruktur dan perkhidmatan model, sementara pembangun mengekalkan hubungan pelanggan dan hasil API. Nomura menganggap ini sebagai cara yang relatif ringan aset untuk menambah kapasiti inferens.
Together AI juga menyediakan kluster GPU dan infrastruktur pusat data. Pakar itu berpendapat ini mungkin sumber pendapatan terbesarnya, tetapi margin kasarnya lebih rendah daripada perkhidmatan inferens.
Apakah yang menentukan kelebihan dalam persaingan harga inferens?
Ketika persaingan harga API semakin sengit, ekonomi inferens bukan sahaja bergantung pada kos GPU, tetapi juga pada bilangan token yang dapat diproses dan hasil yang dapat dijana bagi setiap jam GPU. Peningkatan kadar penggunaan dan daya pemprosesan membantu mengekalkan daya saing kos serta margin keuntungan.
Pakar itu berkata DeepSeek mempunyai keupayaan kejuruteraan inferens yang kukuh; rangka kerja DeepInfer yang didedahkan kepada umum dapat meningkatkan penggunaan sumber dan daya pemprosesan, tetapi pengoptimuman sistem serta penyepaduan infrastruktur dalam persekitaran pengeluaran adalah rumit, menyebabkan penyedia lain sukar meniru kecekapan sebenarnya. Together AI sedang mencuba menyesuaikan teknologi serupa dengan GPU dan persekitaran pengeluarannya sendiri.
Apakah kekangan berbeza yang dihadapi oleh penggunaan rentas sempadan?
Pakar itu berpendapat risiko komersial segera bagi pengehosan bebas oleh pihak ketiga terhadap model dengan pemberat yang didedahkan kepada umum adalah relatif rendah, tetapi syarat pelesenan dan peraturan yang berkenaan tetap perlu dipatuhi.
Inferens khusus melibatkan hubungan komersial yang lebih langsung dengan pembangun model China, mungkin menghadapi lebih banyak penelitian kawal selia dan lebih mudah terjejas oleh perubahan kawalan eksport teknologi atau sekatan pengkomputeran rentas sempadan. Setakat waktu temu bual, pakar itu berkata kerjasama sedia ada tidak terganggu secara ketara oleh perkembangan peraturan terkini.
