YC Paper Club: por qué la inferencia es 12 veces más importante que el entrenamiento
Este episodio de Paper Club de Y Combinator se centra en la inferencia: por cada 1 unidad de capacidad de cómputo utilizada para entrenar un modelo, cada año se emplea aproximadamente 6 veces esa capacidad para prestar el servicio. Si se considera una vida útil del modelo de 2 años, la inferencia es 12 veces más importante que el entrenamiento. En los últimos 10 años, la optimización de la inferencia ha creado aproximadamente 220 mil millones de dólares estadounidenses en valor de mercado.
Y Combinator ·