番組とゲスト

Dwarkesh Podcastの長時間インタビュー。Alignment Research Centerの責任者Paul Christianoが出演し、司会はDwarkesh Patelである。Christianoは米国AI安全研究所の所長を務めたほか、OpenAIでアラインメント部門を率い、RLHFを発明した人物であり、現在はOpenAIの取締役である。本稿はインタビュー全編をまとめたものである(0:00–1:38:45)。英語の原題:We could be 12 months away from AIs that can overtake humanity | Paul Christiano。

主な見解

  • 先月、数学分野では十年分に相当する進歩があった一方、機械学習は数学に約一年遅れていると述べている。 0:25
  • 今後6から12カ月以内に、AIが人類を支配し、人間が権力を失うリスクは約10%であり、開発者が予防策を講じず全速力で進めば、リスクは大幅に高まると述べている。 1:40
  • 現在の軌道を前提にすると、一年以内に超知能が出現する確率は約三分の一だと推定している。 2:09
  • METRとAnthropicのデータによると、過去6から12カ月でAIの進歩速度はおよそ倍増した。また、これらの指標は、超知能の出現前6から12カ月に見られると想定される状態に当たる。 6:35

背景と注記

Dwarkesh Podcastの長時間インタビュー。本稿の見解とタイムスタンプは字幕の原文に基づいており、各タイムスタンプは該当する発言の開始時刻を示す。字幕の収録範囲:この動画の字幕はタイムスタンプ付きの1355区間からなり、0:00–98:43をカバーしている(全長は98:45)。動画全編をカバーしている。公開時刻に関する注記:公開時刻は香港時間で2026-11-17 04:23であり、取得時にYouTubeに表示されていた相対時間から換算したもので、精度は時間単位である。

出典リンク

関連記事

関連特集