Program ve konuk

Dwarkesh Podcast’in uzun söyleşisi: Alignment Research Center başkanı Paul Christiano konuk oluyor; sunucu Dwarkesh Patel. Christiano daha önce ABD Yapay Zekâ Güvenliği Enstitüsüne başkanlık etti, OpenAI’da hizalamadan sorumlu yöneticilik yaptı ve RLHF’nin mucididir; şu anda OpenAI yönetim kurulu üyesidir. Bu yazı söyleşinin tamamını derlemektedir (0:00–1:38:45). İngilizce özgün başlık: We could be 12 months away from AIs that can overtake humanity | Paul Christiano.

Öne çıkan görüşler

  • Matematik alanının geçen ay on yıllık ilerlemeye eşdeğer bir ilerleme kaydettiğini, makine öğrenmesinin ise matematiğin yaklaşık bir yıl gerisinde olduğunu söylüyor. 0:25
  • Yapay zekânın önümüzdeki 6 ila 12 ay içinde insanlığı kontrol altına alıp insanları güçsüz bırakma riskinin yaklaşık %10 olduğunu söylüyor; geliştiriciler önlem almadan tam hız ilerlerse riskin belirgin biçimde daha yüksek olacağını belirtiyor. 1:40
  • Mevcut gidişata göre bir yıl içinde süper zekânın ortaya çıkma olasılığını yaklaşık üçte bir olarak tahmin ediyor. 2:09
  • METR ve Anthropic verileri, yapay zekâdaki ilerleme hızının son 6 ila 12 ayda yaklaşık iki katına çıktığını; bu göstergelerin de süper zekânın ortaya çıkmasından 6 ila 12 ay önce beklenen görünüme benzediğini gösteriyor. 6:35

Arka plan ve notlar

Dwarkesh Podcast’in uzun söyleşisi. Yazıdaki görüşler ve zaman damgaları orijinal altyazılara dayanmaktadır; her zaman damgası ilgili alıntının başlangıcını gösterir. Altyazı kapsamı hakkında: videonun altyazıları zaman damgalı 1355 bölümden oluşuyor ve 0:00–98:43 aralığını kapsıyor (toplam süre 98:45); yani videonun tamamını kapsıyor. Yayın zamanı hakkında: yayın zamanı Hong Kong saatiyle 2026-11-17 04:23; veri alınırken YouTube’da gösterilen göreli zamandan dönüştürülmüştür ve saat düzeyinde kesinliğe sahiptir.

Kaynak bağlantıları

İlgili yazılar

İlgili konular