节目与嘉宾
a16z 专访,嘉宾为哲学家、《超级智能》(Superintelligence)作者尼克·博斯特罗姆(Nick Bostrom),主持人为埃迪·拉扎林(Eddy Lazzarin)与埃琳娜·伯格(Elena Burger)。英文原标题:Nick Bostrom on Superintelligence, Longer Lives, and Deep Utopia。
核心观点
- 《深层乌托邦》讨论的是“如果一切顺利会怎样”,不等于他不再认为 AI 有重大风险:不同书的范围不同,底层观点没有变。 3:35
- 支持有期限的暂停:为某个系统补安全功课留出时间、或在安全与对齐落后时略微放慢能力进展,而不是把暂停拖成永久停滞。 8:48
- 我们还没有可靠的对齐技术,无法把想要的价值观精确地设计进模型;系统越强,对齐越难。 12:00
- 95% 的人类已经死去,剩下的人几十年内也会跟上;成功开发安全的超级智能可能在生物医药与抗衰老上带来突破,大幅延长在世者的寿命。 17:28
- 反对把前沿 AI 集中成曼哈顿工程式的单一项目:集中意味着信息不透明与权力集中,商业竞争反而带来更多透明度。 28:06
背景与说明
a16z 专访尼克·博斯特罗姆,围绕超级智能的节奏、对齐落后、抗衰老与《深层乌托邦》展开讨论。 字幕覆盖说明:本视频字幕共 968 个带时间戳分段,覆盖 0:00–38:31(全长 38:48),基本覆盖全片;本稿整理专访 0:00–28:46 的关键段落,未覆盖 28:46 之后的段落。文中观点与时间戳均据字幕原文转述,时间戳为对应原话分段的起始时刻。 发布时间说明:发布时间为香港日期 2026-11-20,精度为日级。