Rancangan dan tetamu

Temu bual panjang Dwarkesh Podcast: Paul Christiano, ketua Alignment Research Center, tampil sebagai tetamu, dengan Dwarkesh Patel sebagai pengacara. Christiano pernah mengetuai Institut Keselamatan AI A.S., pernah menjadi ketua penjajaran di OpenAI dan merupakan pencipta RLHF; beliau kini pengarah OpenAI. Artikel ini menyusun keseluruhan temu bual (0:00–1:38:45). Tajuk asal bahasa Inggeris: We could be 12 months away from AIs that can overtake humanity | Paul Christiano.

Pandangan utama

  • Beliau berkata bidang matematik mencapai kemajuan bersamaan sepuluh tahun pada bulan lalu, manakala pembelajaran mesin ketinggalan kira-kira setahun berbanding matematik. 0:25
  • Beliau berkata risiko AI mengambil alih manusia dan menyebabkan manusia kehilangan kuasa dalam tempoh 6 hingga 12 bulan akan datang adalah kira-kira 10%; risikonya akan jauh lebih tinggi jika pembangun bergerak sepantas mungkin tanpa mengambil langkah pencegahan. 1:40
  • Beliau menganggarkan bahawa berdasarkan trajektori semasa, kebarangkalian kecerdasan super muncul dalam tempoh setahun adalah kira-kira satu pertiga. 2:09
  • Data METR dan Anthropic menunjukkan bahawa kadar kemajuan AI meningkat kira-kira dua kali ganda dalam tempoh 6 hingga 12 bulan lalu, dan metrik ini menyerupai keadaan yang dijangka 6 hingga 12 bulan sebelum kecerdasan super muncul. 6:35

Latar belakang dan nota

Temu bual panjang Dwarkesh Podcast. Pandangan dan cap masa dalam artikel ini berdasarkan sari kata asal; setiap cap masa menandakan permulaan petikan yang berkenaan. Nota liputan sari kata: sari kata video ini mengandungi 1355 segmen bercap masa, meliputi 0:00–98:43 (durasi penuh 98:45), meliputi keseluruhan video. Nota waktu penerbitan: waktu penerbitan ialah 2026-11-17 04:23 waktu Hong Kong, ditukar daripada paparan masa relatif YouTube semasa pengambilan data, dengan ketepatan pada peringkat jam.

Pautan sumber

Bacaan lanjut

Topik berkaitan