Chương trình và khách mời
Buổi phỏng vấn dài của Dwarkesh Podcast: Paul Christiano, người đứng đầu Alignment Research Center, xuất hiện với tư cách khách mời; người dẫn chương trình là Dwarkesh Patel. Christiano từng đứng đầu Viện An toàn AI Hoa Kỳ, trước đây phụ trách mảng alignment tại OpenAI và là người phát minh RLHF; hiện ông là giám đốc OpenAI. Bài viết này tổng hợp toàn bộ cuộc phỏng vấn (0:00–1:38:45). Tựa đề gốc tiếng Anh: We could be 12 months away from AIs that can overtake humanity | Paul Christiano.
Quan điểm chính
- Ông cho biết tháng trước, lĩnh vực toán học đạt được tiến bộ tương đương mười năm, còn học máy tụt hậu so với toán học khoảng một năm. 0:25
- Ông cho biết nguy cơ AI kiểm soát con người và khiến con người mất quyền lực trong 6 đến 12 tháng tới vào khoảng 10%; rủi ro sẽ cao hơn đáng kể nếu các nhà phát triển tiến lên hết tốc độ mà không thực hiện biện pháp phòng ngừa. 1:40
- Ông ước tính rằng theo quỹ đạo hiện tại, xác suất xuất hiện siêu trí tuệ trong vòng một năm vào khoảng một phần ba. 2:09
- Dữ liệu của METR và Anthropic cho thấy tốc độ tiến bộ của AI đã tăng gần gấp đôi trong 6 đến 12 tháng qua, và các chỉ số này giống với trạng thái được kỳ vọng 6 đến 12 tháng trước khi siêu trí tuệ xuất hiện. 6:35
Bối cảnh và ghi chú
Buổi phỏng vấn dài của Dwarkesh Podcast. Các quan điểm và mốc thời gian trong bài được thuật lại theo phụ đề gốc; mỗi mốc thời gian là thời điểm bắt đầu của đoạn trích tương ứng. Thông tin về phạm vi phụ đề: phụ đề video có 1355 phân đoạn được đánh dấu thời gian, bao phủ khoảng 0:00–98:43 (thời lượng đầy đủ 98:45), bao phủ toàn bộ video. Thông tin thời điểm đăng: thời điểm đăng là 2026-11-17 04:23 theo giờ Hong Kong, được quy đổi từ thời gian tương đối YouTube hiển thị lúc thu thập dữ liệu, với độ chính xác ở cấp giờ.