Çin'in hafif açık ağırlıklı modelleri yurt dışına açılıyor: Düşük çıkarım maliyeti talebi artırıyor, hesaplama verimliliği rekabet gücünü belirliyor

Hafif modeller yurt dışında neden popüler?

Nomura'nın görüştüğü Together AI uzmanı, Çin'in açık ağırlıklı modellerinin yetenek ve maliyet bileşimi sayesinde gözlemlediği yurt dışı açık ağırlıklı model pazarında lider konumda olduğunu belirtiyor.
DeepSeek 4.1 Flash, Together AI platformundaki en popüler modellerden biri ve popülerlikte bazı açık ağırlıklı amiral gemisi modelleri bile geride bırakıyor: Günlük görevlerin ihtiyaçlarını karşılıyor ve çıkarım maliyeti büyük amiral gemisi modellerden önemli ölçüde daha düşük.
Uzman, Çinli model geliştiricilerinin bir yandan en ileri modellerin yeteneklerini geliştireceğini, diğer yandan teknolojik kazanımları geniş ölçekli ticari kullanım için maliyet açısından daha verimli modellere dönüştüreceğini düşünüyor.

Uzman, yurt dışında model kullanımının geleneksel sohbetlerden ajan iş akışlarına kaydığını gözlemliyor. Bu iş akışları genellikle daha uzun bağlamlar ve birden fazla çıkarım turu içeriyor; görev başına önemli ölçüde daha fazla token tüketiyor ve çıkarım talebini sürekli olarak destekleyebiliyor.
Model yetenekleri, çıkarım hızı ve toplam kullanım maliyeti, geliştiricilerin model seçimindeki başlıca ölçütler olmaya devam ediyor; büyük kuruluşlar ayrıca veri gizliliğine, veri merkezinin konumuna ve mevzuata uyuma da önem veriyor.

Together AI açık ağırlıklı modelleri bağımsız olarak barındırıyor ve token kullanımına göre ücretlendirilen bir hizmetle geliştiricilere ve daha küçük müşterilere ulaşıyor; yurt dışındaki yerel dağıtımları, verilerin belirli bir bölgede tutulması ve mevzuata uyum gereklilikleri bulunan kuruluşların da bu modelleri kullanmasına olanak tanıyor.
Özel çıkarım hizmeti ise büyük kuruluşlara ve model geliştiricilerine GPU hesaplama gücü ayırıyor ve dağıtım ortamını özelleştiriyor. Uzman, bu faaliyetin Together AI'ın çıkarım işinde belirgin biçimde daha büyük bir paya sahip olduğunu söylüyor.
Bazı Çinli model geliştiricileri Together AI ile iş birliği yaparak kendi hesaplama güçlerini öncelikle eğitim ve geliştirmeye ayırıyor; Together AI altyapı ve model hizmetleri sunarken geliştiriciler müşteri ilişkilerini ve API gelirlerini elinde tutuyor. Nomura, bunu çıkarım kapasitesini artırmanın görece az varlık gerektiren bir yolu olarak görüyor.
Together AI ayrıca GPU kümeleri ve veri merkezi altyapısı sağlıyor. Uzman, bunun şirketin en büyük gelir kaynağı olabileceğini, ancak brüt kâr marjının çıkarım hizmetlerinden daha düşük olduğunu düşünüyor.

API fiyat rekabeti yoğunlaştıkça çıkarımın ekonomik verimliliği yalnızca GPU maliyetine değil, GPU saati başına kaç token işlenebildiğine ve ne kadar gelir elde edilebildiğine de bağlı oluyor. Kullanım oranını ve işlem kapasitesini artırmak, maliyet rekabetçiliğinin ve kâr marjlarının korunmasına yardımcı oluyor.
Uzman, DeepSeek'in güçlü çıkarım mühendisliği yetkinliklerine sahip olduğunu söylüyor; şirketin kamuya açık DeepInfer çerçevesi kaynak kullanımını ve işlem kapasitesini iyileştirebilir, ancak üretim ortamlarında sistem optimizasyonu ve altyapı entegrasyonu karmaşık olduğundan diğer sağlayıcıların şirketin gerçek verimliliğini tekrarlaması zor. Together AI benzer teknolojileri kendi GPU'larına ve üretim ortamına uyarlamaya çalışıyor.

Uzman, ağırlıkları kamuya açık modellerin üçüncü taraflarca bağımsız biçimde barındırılmasının doğrudan ticari risklerinin görece düşük olduğunu, ancak geçerli lisans ve düzenleme kurallarına yine de uyulması gerektiğini düşünüyor.
Özel çıkarım hizmeti, Çinli model geliştiricileriyle daha doğrudan bir ticari ilişki içeriyor; daha fazla düzenleyici incelemeye maruz kalabilir ve teknoloji ihracatı kontrollerindeki veya sınır ötesi hesaplama gücü kısıtlarındaki değişikliklerden daha kolay etkilenebilir. Uzman, görüşme tarihi itibarıyla mevcut iş birliklerinin son düzenleyici gelişmelerden önemli ölçüde etkilenmediğini söylüyor.