節目與嘉賓
Y Combinator《Paper Club》（約 1 小時 50 分 48 秒）由 Y Combinator 主持，研究者與創業者（包括 Together AI 等團隊成員）圍繞推論展開討論。本文整理本期討論的核心論點，不逐一歸屬每位發言人的原話。
核心觀點
（以下為嘉賓原意轉述，時間戳連結可定位原影片對應位置。）
- 推論比訓練重要 12 倍：以數據公開的 DeepSeek V3 為例，訓練約使用 280萬個 H800 小時，而每天提供服務約使用 4.3萬個 H800 小時；按單份權重檔案每年計算，推論算力約是訓練的 6 倍，按 2 年壽命計算就是 12 倍，且使用者越多，比重越大。（https://www.youtube.com/watch?v=mHNKuH-9OxU&t=101s）
- 過去 10 年，推論優化已創造約 2200億美元市值：推論不只是呼叫模型，而是由路由、快取、排程、核心、顯示記憶體與硬體組成的全端堆疊，每一步都要在速度、成本與品質之間取捨。（https://www.youtube.com/watch?v=mHNKuH-9OxU&t=61s）
- 服務堆疊是成本戰場：從請求層級的路由到整個服務堆疊的靜默變更，每一層都會影響每個 token 的成本與延遲，無法做好推論的公司會在銷售成本上「賠得精光」。（https://www.youtube.com/watch?v=mHNKuH-9OxU&t=627s）
- 推論的重要性還在上升：隨著 AI 普及、同一份權重檔案的使用者越來越多，推論在總算力中的占比只會繼續擴大，訓練與推論的權重必須重新計算。（https://www.youtube.com/watch?v=mHNKuH-9OxU&t=131s）
背景與說明
字幕涵蓋全片（約 1 小時 50 分 48 秒），本文整理本期討論的核心論點；由於本期為多人討論，正文不逐一歸屬發言人，僅以節目整體論點呈現，時間戳指向對應討論段落。