Programa e invitado
Entrevista extensa de Dwarkesh Podcast: Paul Christiano, responsable del Alignment Research Center, participa como invitado; el presentador es Dwarkesh Patel. Christiano dirigió anteriormente el Instituto de Seguridad de la IA de EE. UU., fue responsable de alineamiento en OpenAI y es el inventor de RLHF; actualmente es director de OpenAI. Este artículo recopila la entrevista completa (0:00–1:38:45). Título original en inglés: We could be 12 months away from AIs that can overtake humanity | Paul Christiano.
Ideas principales
- Afirma que el mes pasado las matemáticas avanzaron lo equivalente a diez años, mientras que el aprendizaje automático lleva aproximadamente un año de retraso respecto a las matemáticas. 0:25
- Afirma que el riesgo de que la IA tome el control de la humanidad y la deje sin poder en los próximos 6 a 12 meses es de aproximadamente 10%; el riesgo sería significativamente mayor si los desarrolladores avanzaran a toda velocidad sin tomar medidas preventivas. 1:40
- Estima que, según la trayectoria actual, hay aproximadamente una probabilidad entre tres de que surja la superinteligencia en el plazo de un año. 2:09
- Los datos de METR y Anthropic muestran que el ritmo de avance de la IA se duplicó aproximadamente en los últimos 6 a 12 meses, y que estos indicadores se parecen a lo que cabría esperar 6 a 12 meses antes de que aparezca la superinteligencia. 6:35
Contexto y notas
Entrevista extensa de Dwarkesh Podcast. Las opiniones y marcas de tiempo del artículo se basan en los subtítulos originales; cada marca de tiempo señala el comienzo del fragmento correspondiente. Cobertura de los subtítulos: los subtítulos del video contienen 1355 segmentos con marca de tiempo, que abarcan 0:00–98:43 (duración total 98:45), es decir, todo el video. Fecha y hora de publicación: 2026-11-17 04:23 hora de Hong Kong, convertidas a partir del tiempo relativo que mostraba YouTube al recopilar los datos, con precisión de una hora.