Programa e convidado
Entrevista longa do Dwarkesh Podcast: Paul Christiano, chefe do Alignment Research Center, participa como convidado; o apresentador é Dwarkesh Patel. Christiano já chefiou o Instituto de Segurança de IA dos EUA, foi anteriormente responsável por alinhamento na OpenAI e é o inventor do RLHF; atualmente é diretor da OpenAI. Este artigo reúne a entrevista completa (0:00–1:38:45). Título original em inglês: We could be 12 months away from AIs that can overtake humanity | Paul Christiano.
Principais ideias
- Ele afirma que, no mês passado, a matemática avançou o equivalente a dez anos, enquanto o aprendizado de máquina está cerca de um ano atrás da matemática. 0:25
- Ele afirma que o risco de a IA assumir o controle da humanidade e deixar os humanos sem poder nos próximos 6 a 12 meses é de aproximadamente 10%; o risco seria significativamente maior se os desenvolvedores avançassem a toda velocidade sem tomar medidas preventivas. 1:40
- Ele estima que, na trajetória atual, há aproximadamente uma chance em três de surgir uma superinteligência dentro de um ano. 2:09
- Dados da METR e da Anthropic mostram que o ritmo de avanço da IA praticamente dobrou nos últimos 6 a 12 meses, e que esses indicadores se parecem com o que se esperaria 6 a 12 meses antes do surgimento de uma superinteligência. 6:35
Contexto e notas
Entrevista longa do Dwarkesh Podcast. As opiniões e os horários no artigo são relatados com base nas legendas originais; cada horário indica o início do trecho correspondente. Nota sobre a cobertura das legendas: as legendas do vídeo têm 1355 segmentos com marcação de tempo, cobrindo 0:00–98:43 (duração total 98:45), ou seja, o vídeo inteiro. Nota sobre a data de publicação: a publicação ocorreu em 2026-11-17 04:23 no horário de Hong Kong, convertida a partir do tempo relativo exibido pelo YouTube no momento da coleta, com precisão de horas.