Передача и гость

Длительное интервью Dwarkesh Podcast: в нем участвует Пол Кристиано, руководитель Alignment Research Center; ведущий — Dwarkesh Patel. Кристиано ранее возглавлял Институт безопасности ИИ США, прежде руководил направлением alignment в OpenAI и является изобретателем RLHF; сейчас он входит в совет директоров OpenAI. В статье собран полный текст интервью (0:00–1:38:45). Оригинальное название на английском: We could be 12 months away from AIs that can overtake humanity | Paul Christiano.

Основные тезисы

  • По его словам, за прошлый месяц математика достигла прогресса, эквивалентного десяти годам, а машинное обучение отстает от математики примерно на год. 0:25
  • По его словам, риск того, что ИИ в течение ближайших 6–12 месяцев возьмет человечество под контроль и лишит людей власти, составляет около 10%; риск будет значительно выше, если разработчики станут продвигаться на полной скорости без мер предосторожности. 1:40
  • Он оценивает вероятность появления сверхинтеллекта в течение года примерно в одну треть, если сохраняется нынешняя траектория. 2:09
  • Данные METR и Anthropic показывают, что темп развития ИИ за последние 6–12 месяцев примерно удвоился, а эти показатели соответствуют тому, что можно было бы ожидать за 6–12 месяцев до появления сверхинтеллекта. 6:35

Контекст и примечания

Длительное интервью Dwarkesh Podcast. Мнения и временные отметки в статье переданы по оригинальным субтитрам; каждая отметка обозначает начало соответствующего фрагмента. Охват субтитров: субтитры видео содержат 1355 сегментов с временными отметками и охватывают период 0:00–98:43 (полная продолжительность 98:45), то есть все видео. Время публикации: 2026-11-17 04:23 по гонконгскому времени; оно рассчитано по относительному времени, отображавшемуся на YouTube при сборе данных, с точностью до часа.

Ссылки на источники

Читайте также

По теме