YC Paper Club: почему инференс важнее обучения в 12 раз
Этот выпуск Paper Club от Y Combinator посвящён инференсу: на каждую 1 единицу вычислительных ресурсов, затраченную на обучение модели, ежегодно приходится примерно в 6 раз больше ресурсов на её обслуживание. При сроке жизни модели в 2 года инференс оказывается в 12 раз важнее обучения. За последние 10 лет оптимизация инференса создала около 220 млрд долларов США рыночной стоимости.
Y Combinator ·