Program ve konuk
Dwarkesh Podcast’in uzun söyleşisi: Alignment Research Center başkanı Paul Christiano konuk oluyor; sunucu Dwarkesh Patel. Christiano daha önce ABD Yapay Zekâ Güvenliği Enstitüsüne başkanlık etti, OpenAI’da hizalamadan sorumlu yöneticilik yaptı ve RLHF’nin mucididir; şu anda OpenAI yönetim kurulu üyesidir. Bu yazı söyleşinin tamamını derlemektedir (0:00–1:38:45). İngilizce özgün başlık: We could be 12 months away from AIs that can overtake humanity | Paul Christiano.
Öne çıkan görüşler
- Matematik alanının geçen ay on yıllık ilerlemeye eşdeğer bir ilerleme kaydettiğini, makine öğrenmesinin ise matematiğin yaklaşık bir yıl gerisinde olduğunu söylüyor. 0:25
- Yapay zekânın önümüzdeki 6 ila 12 ay içinde insanlığı kontrol altına alıp insanları güçsüz bırakma riskinin yaklaşık %10 olduğunu söylüyor; geliştiriciler önlem almadan tam hız ilerlerse riskin belirgin biçimde daha yüksek olacağını belirtiyor. 1:40
- Mevcut gidişata göre bir yıl içinde süper zekânın ortaya çıkma olasılığını yaklaşık üçte bir olarak tahmin ediyor. 2:09
- METR ve Anthropic verileri, yapay zekâdaki ilerleme hızının son 6 ila 12 ayda yaklaşık iki katına çıktığını; bu göstergelerin de süper zekânın ortaya çıkmasından 6 ila 12 ay önce beklenen görünüme benzediğini gösteriyor. 6:35
Arka plan ve notlar
Dwarkesh Podcast’in uzun söyleşisi. Yazıdaki görüşler ve zaman damgaları orijinal altyazılara dayanmaktadır; her zaman damgası ilgili alıntının başlangıcını gösterir. Altyazı kapsamı hakkında: videonun altyazıları zaman damgalı 1355 bölümden oluşuyor ve 0:00–98:43 aralığını kapsıyor (toplam süre 98:45); yani videonun tamamını kapsıyor. Yayın zamanı hakkında: yayın zamanı Hong Kong saatiyle 2026-11-17 04:23; veri alınırken YouTube’da gösterilen göreli zamandan dönüştürülmüştür ve saat düzeyinde kesinliğe sahiptir.