節目與嘉賓

Dwarkesh Podcast 長篇訪談:對齊研究中心負責人 Paul Christiano 出鏡,主持人為 Dwarkesh Patel。克里斯蒂亞諾曾任美國 AI 安全研究所負責人、OpenAI 前對齊主管,也是 RLHF 的發明者,現為 OpenAI 董事。本稿整理全期訪談(0:00–1:38:45)。英文原標題:We could be 12 months away from AIs that can overtake humanity | Paul Christiano。

核心觀點

  • 他表示,上個月數學領域取得了相當於十年的進展,而機器學習落後數學約一年。 0:25
  • 他表示,未來 6 到 12 個月內,AI 接管人類、使人類失去權力的風險約為 10%;如果開發者全速前進而不採取預防措施,風險會顯著更高。 1:40
  • 他估計,按目前的發展軌跡,一年內出現超級智慧的機率約為三分之一。 2:09
  • METR 與 Anthropic 的資料顯示,過去 6 到 12 個月,AI 進步的速度大約翻倍;而這些指標正呈現出超級智慧出現前 6 到 12 個月應有的樣貌。 6:35

背景與說明

Dwarkesh Podcast 長篇訪談。文中觀點與時間戳均據字幕原文轉述;時間戳為相應原話片段的起始時刻。字幕覆蓋說明:本影片字幕共 1355 個帶時間戳的片段,覆蓋 0:00–98:43(全長 98:45),覆蓋全片。發布時間說明:發布時間為香港時間 2026-11-17 04:23,由擷取時 YouTube 顯示的相對時間換算,精度為小時級。

來源連結

延伸閱讀

相關專題