Modelos leves de pesos abertos da China avançam no exterior: baixo custo de inferência impulsiona a demanda, e eficiência computacional determina a competitividade
Fonte original：Nomura International (Hong Kong) Ltd.Primeira publicação na Unhidea：Data da fonte original：
Ideia principal
Modelos leves de pesos abertos da China estão ampliando seu uso no exterior por meio de uma combinação de custo e capacidade. O benefício para os provedores de inferência depende da eficiência de utilização da capacidade computacional, da demanda dos clientes e das condições de cooperação transfronteiriça.
Por que os modelos leves são populares no exterior?
O especialista da Together AI entrevistado pela Nomura observou que os modelos chineses de pesos abertos ocupam posição de liderança no mercado externo desses modelos que ele acompanha, graças à combinação de capacidade e custo.
O DeepSeek 4.1 Flash é um dos modelos mais populares da plataforma Together AI, superando até alguns modelos de ponta de pesos abertos: ele atende às necessidades de tarefas cotidianas, enquanto seu custo de inferência é significativamente menor que o de grandes modelos de ponta.
O especialista acredita que os desenvolvedores chineses de modelos avançarão simultaneamente nas capacidades dos modelos de fronteira e transformarão os resultados tecnológicos em modelos mais eficientes em termos de custo para aplicações comerciais em larga escala.
Por que os agentes podem aumentar a demanda por inferência?
O especialista observou que o uso de modelos no exterior está migrando de conversas tradicionais para fluxos de trabalho de agentes. Estes frequentemente envolvem contextos mais longos e múltiplas rodadas de inferência, consomem significativamente mais tokens por tarefa e podem continuar impulsionando a demanda por inferência.
A capacidade do modelo, a velocidade de inferência e o custo total de uso continuam sendo as principais considerações dos desenvolvedores na escolha; grandes empresas também observam a privacidade dos dados, a localização dos centros de dados e a conformidade regulatória.
Como a Together AI atende à demanda no exterior?
A Together AI hospeda de forma independente modelos de pesos abertos e atende desenvolvedores e clientes menores por meio de um serviço cobrado conforme o uso de tokens; suas implantações locais no exterior também permitem que empresas com exigências de residência de dados e conformidade usem esses modelos.
A inferência dedicada reserva capacidade computacional de GPU para grandes empresas e desenvolvedores de modelos e personaliza o ambiente de implantação. Segundo o especialista, essa atividade representa uma parcela significativamente maior do negócio de inferência da Together AI.
Alguns desenvolvedores chineses de modelos trabalham com a Together AI e priorizam sua capacidade computacional interna para treinamento e desenvolvimento; a Together AI fornece infraestrutura e serviços de modelos, enquanto os desenvolvedores mantêm o relacionamento com os clientes e a receita de API. A Nomura considera essa uma forma relativamente pouco intensiva em ativos de ampliar a capacidade de inferência.
A Together AI também fornece clusters de GPU e infraestrutura de centros de dados. O especialista acredita que essa pode ser sua maior fonte de receita, mas sua margem bruta é inferior à dos serviços de inferência.
De que depende a vantagem na competição de preços de inferência?
À medida que a competição de preços de API se intensifica, a economia da inferência depende não apenas do custo das GPUs, mas também de quantos tokens podem ser processados e quanta receita pode ser gerada por hora de GPU. Aumentar a utilização e a taxa de processamento ajuda a manter a competitividade em custos e as margens de lucro.
O especialista afirma que a DeepSeek tem forte capacidade de engenharia de inferência; seu framework DeepInfer, disponibilizado publicamente, pode melhorar a utilização de recursos e a taxa de processamento, mas a otimização de sistemas e a integração de infraestrutura em ambientes de produção são complexas, dificultando que outros provedores reproduzam sua eficiência real. A Together AI está tentando adaptar tecnologias semelhantes às suas próprias GPUs e ao seu ambiente de produção.
Quais são as diferentes restrições enfrentadas na implantação transfronteiriça?
O especialista considera relativamente baixo o risco comercial imediato da hospedagem independente por terceiros de modelos com pesos públicos, mas ainda é necessário cumprir as regras aplicáveis de licenciamento e regulação.
A inferência dedicada envolve uma relação comercial mais direta com desenvolvedores chineses de modelos, pode enfrentar maior escrutínio regulatório e é mais suscetível a mudanças nos controles de exportação de tecnologia ou nas restrições à capacidade computacional transfronteiriça. Na data da entrevista, o especialista afirmou que as parcerias existentes não haviam sido substancialmente afetadas por acontecimentos regulatórios recentes.
