Programa e convidado
O 20VC, apresentado por Harry Stebbings, tem aproximadamente 1 hora, 13 minutos e 26 segundos. O convidado é Naveen Rao, fundador e CEO da Unconventional AI, que fundou a Nervana Systems, cofundou a MosaicML e depois foi vice-presidente de inteligência artificial da Databricks. Este artigo reúne toda a conversa com Rao.
Pontos principais
(A seguir, as opiniões do convidado são apresentadas em paráfrase; os links com marcações de tempo levam aos trechos correspondentes do vídeo original.)
- A energia é o maior gargalo da infraestrutura de IA: construir 1 gigawatt custa cerca de 50 bilhões de dólares, mais do que construir uma fábrica de chips. Nos últimos anos, o setor recorreu principalmente à capacidade ociosa da rede elétrica, e a dificuldade de construir infraestrutura realmente nova foi subestimada. (https://www.youtube.com/watch?v=4UmFfI8CWuA&t=112s）
- A rede elétrica dos EUA tem uma produção média de cerca de 900 gigawatts e pode chegar a 1.2 a 1.3 terawatts nos horários de pico; a capacidade ociosa é a parcela que pode ser obtida rapidamente no momento. Mas os EUA investiram pouco em infraestrutura de energia nos últimos 20 anos, enquanto a China construiu capacidade elétrica a um ritmo cerca de 6 vezes superior ao dos EUA no mesmo período. (https://www.youtube.com/watch?v=4UmFfI8CWuA&t=167s）
- O mercado de inferência não tem teto: os próprios modelos de IA podem se tornar um mercado de trilhões de dólares em poucos anos, e o mercado de inferência chegará a 10 trilhões de dólares em 10 anos; aumentar em uma ordem de magnitude a eficiência de entrega de um token pode ampliar o mercado em 10 vezes. (https://www.youtube.com/watch?v=4UmFfI8CWuA&t=3429s）
- A robótica será 100 vezes maior que os agentes de programação: até hoje a inteligência quase não entrou de fato no mundo físico, e a maioria dos robôs industriais apenas executa programas predefinidos. Quando bilhões de robôs puderem resolver problemas físicos de forma dinâmica, o custo de execução de trabalho físico, como limpeza e construção, cairá bastante. (https://www.youtube.com/watch?v=4UmFfI8CWuA&t=3481s）
- O hardware é a área de aposta para os próximos 10 anos: ele discorda da afirmação de que “a IA destruirá a humanidade” e considera que a demanda é ilimitada e que o hardware é o lado em que vale apostar, enquanto o investimento exclusivamente em software se encontra em uma posição difícil. (https://www.youtube.com/watch?v=4UmFfI8CWuA&t=2676s）
Contexto e esclarecimentos
As legendas abrangem todo o vídeo, de aproximadamente 1 hora, 13 minutos e 26 segundos, e este artigo reúne toda a conversa com Rao. As citações na montagem de abertura são consistentes com o conteúdo do programa principal, e todas as marcações de tempo no texto foram extraídas de trechos do programa principal.