YC Paper Club: por que a inferência é 12 vezes mais importante que o treinamento
Este episódio do Paper Club da Y Combinator é dedicado à inferência: para cada 1 unidade de capacidade computacional usada para treinar um modelo, cerca de 6 vezes essa capacidade é usada anualmente para servi-lo. Considerando uma vida útil de 2 anos para o modelo, a inferência é 12 vezes mais importante que o treinamento. Nos últimos 10 anos, a otimização da inferência criou aproximadamente 220 bilhões de dólares americanos em valor de mercado.
Y Combinator ·