节目与嘉宾

Dwarkesh Podcast 长访谈:对齐研究中心负责人 Paul Christiano 出镜,主持人为 Dwarkesh Patel。克里斯蒂亚诺曾任美国 AI 安全研究所负责人、前 OpenAI 对齐负责人、RLHF 发明者,现为 OpenAI 董事。本稿整理全期访谈(0:00–1:38:45)。英文原标题:We could be 12 months away from AIs that can overtake humanity | Paul Christiano。

核心观点

  • 他称上个月数学领域取得相当于十年的进展,机器学习落后数学约一年。 0:25
  • 他称未来 6 到 12 个月 AI 接管人类、使人类失去权力的风险约 10%,如果开发者全速前进而不采取预防措施、风险会显著更高。 1:40
  • 他估计按当前轨迹,一年内出现超级智能的概率约三分之一。 2:09
  • METR 与 Anthropic 的数据显示,过去 6 到 12 个月 AI 进步的速度大约翻倍,而这些指标正是超级智能出现前 6 到 12 个月应有的样子。 6:35

背景与说明

Dwarkesh Podcast 长访谈。文中观点与时间戳均据字幕原文转述,时间戳为对应原话分段的起始时刻。 字幕覆盖说明:本视频字幕共 1355 个带时间戳分段,覆盖 0:00–98:43(全长 98:45),全片覆盖。 发布时间说明:发布时间为香港时间 2026-11-17 04:23,由抓取时 YouTube 显示的相对时间换算,精度为小时级。

来源链接

延伸阅读

相关专题