Acara dan narasumber
Wawancara panjang Dwarkesh Podcast: Paul Christiano, kepala Alignment Research Center, hadir sebagai narasumber, dengan Dwarkesh Patel sebagai pembawa acara. Christiano pernah mengepalai Institut Keamanan AI AS, sebelumnya memimpin bidang alignment di OpenAI, dan merupakan pencipta RLHF; kini ia menjabat sebagai direktur OpenAI. Artikel ini merangkum seluruh wawancara (0:00–1:38:45). Judul asli bahasa Inggris: We could be 12 months away from AIs that can overtake humanity | Paul Christiano.
Pokok-pokok utama
- Ia mengatakan bidang matematika mencapai kemajuan setara sepuluh tahun pada bulan lalu, sedangkan pembelajaran mesin tertinggal sekitar satu tahun dari matematika. 0:25
- Ia mengatakan risiko AI mengambil alih manusia dan membuat manusia kehilangan kekuasaan dalam 6 hingga 12 bulan mendatang sekitar 10%; risikonya akan jauh lebih tinggi jika para pengembang bergerak dengan kecepatan penuh tanpa mengambil langkah pencegahan. 1:40
- Ia memperkirakan bahwa berdasarkan lintasan saat ini, kemungkinan munculnya kecerdasan super dalam satu tahun sekitar sepertiga. 2:09
- Data METR dan Anthropic menunjukkan bahwa laju kemajuan AI kira-kira berlipat ganda dalam 6 hingga 12 bulan terakhir, dan metrik ini menyerupai kondisi yang diperkirakan terjadi 6 hingga 12 bulan sebelum kecerdasan super muncul. 6:35
Latar belakang dan catatan
Wawancara panjang Dwarkesh Podcast. Pandangan dan cap waktu dalam artikel ini disampaikan berdasarkan subtitle asli; setiap cap waktu menandai awal cuplikan terkait. Keterangan cakupan subtitle: subtitle video ini terdiri atas 1355 segmen bercap waktu, mencakup 0:00–98:43 (durasi penuh 98:45), mencakup seluruh video. Keterangan waktu publikasi: waktu publikasi adalah 2026-11-17 04:23 waktu Hong Kong, dikonversi dari waktu relatif yang ditampilkan YouTube saat data diambil, dengan ketepatan pada tingkat jam.