YC Paper Club: Mengapa inferensi 12 kali lebih penting daripada pelatihan
Episode Paper Club Y Combinator kali ini berfokus pada inferensi: untuk setiap 1 unit daya komputasi yang digunakan untuk melatih model, sekitar 6 kali lipat daya komputasi digunakan untuk melayani model setiap tahun. Dengan usia model selama 2 tahun, inferensi menjadi 12 kali lebih penting daripada pelatihan. Optimalisasi inferensi telah menciptakan nilai pasar sekitar 220 miliar dolar AS selama 10 tahun terakhir.
Y Combinator ·