Программа и гости
В выпуске Working Theory от a16z приняли участие главный научный сотрудник OpenAI Марк Чен и сооснователь Джон Шульман; продолжительность выпуска — 16:19. Оригинальное название на английском: Working Theory: Recursive Self-Improvement with Mark Chen & John Schulman.
Основные тезисы
- AGI — это спектр, а не момент времени: по мнению Чена, спектр AGI пройден примерно на 80%, а спектр рекурсивного самосовершенствования — примерно на 25–50%. 4:55
- В отчете Meter от 5 ноября оценивается, что за последний год темп исследований в области ИИ ускорился примерно в 2 раза. 5:22
- Узкое место, мешающее ускорить исследования, — исследовательский «вкус», а не вычислительная мощность. 5:49
- К новым достижениям в области выравнивания относятся «самопризнания» модели: она сама сообщает о собственных ошибках. 12:18
- Автоматизированные исследователи могут устранять 10 различных типов сбоев выравнивания. 13:02
Контекст и примечания
В выпуске Working Theory от a16z главный научный сотрудник OpenAI Марк Чен и сооснователь Джон Шульман обсуждают определение и ход рекурсивного самосовершенствования, а также выравнивание. Примечание о полноте субтитров: субтитры к видео содержат 495 сегментов с временными метками и охватывают от 0:00 до 16:18 (общая продолжительность 16:19), то есть все видео. Мнения и временные метки в статье пересказаны по исходным субтитрам; каждая временная метка указывает начало соответствующего сегмента оригинального высказывания. Примечание о времени публикации: время публикации — 2026-11-18 02:15 по гонконгскому времени, оно рассчитано по относительному времени, отображавшемуся на YouTube в момент сбора данных (7 часов назад); точность — до часа.