Programa e invitado
20VC, presentado por Harry Stebbings, dura aproximadamente 1 hora, 13 minutos y 26 segundos. El invitado es Naveen Rao, fundador y director ejecutivo de Unconventional AI, quien fundó Nervana Systems, cofundó MosaicML y posteriormente fue vicepresidente de inteligencia artificial de Databricks. Este artículo recoge toda la conversación con Rao.
Ideas principales
(A continuación se parafrasean las opiniones del invitado; los enlaces con marcas de tiempo llevan a los puntos correspondientes del vídeo original).
- La energía es el mayor cuello de botella de la infraestructura de IA: construir 1 gigavatio cuesta aproximadamente 50 mil millones de dólares, más que construir una fábrica de chips. Durante los últimos años se ha recurrido principalmente a la capacidad ociosa de la red eléctrica, y se ha subestimado la dificultad de construir infraestructura verdaderamente nueva. (https://www.youtube.com/watch?v=4UmFfI8CWuA&t=112s）
- La red eléctrica estadounidense tiene una producción media de aproximadamente 900 gigavatios y puede alcanzar entre 1.2 y 1.3 teravatios en horas punta; la capacidad ociosa es la parte que actualmente puede obtenerse con rapidez. Sin embargo, Estados Unidos ha invertido de forma insuficiente en infraestructura energética durante los últimos 20 años, mientras que China construyó capacidad eléctrica a un ritmo aproximadamente 6 veces superior al estadounidense durante el mismo periodo. (https://www.youtube.com/watch?v=4UmFfI8CWuA&t=167s）
- El mercado de inferencia no tiene techo: los propios modelos de IA podrían convertirse en un mercado de billones de dólares en pocos años, y el mercado de inferencia alcanzará 10 billones de dólares en 10 años; aumentar en un orden de magnitud la eficiencia de entrega de un token podría multiplicar por 10 el tamaño del mercado. (https://www.youtube.com/watch?v=4UmFfI8CWuA&t=3429s）
- La robótica será 100 veces mayor que los agentes de programación: hasta ahora la inteligencia apenas ha penetrado realmente en el mundo físico, y la mayoría de los robots industriales solo ejecutan programas preestablecidos. Cuando miles de millones de robots puedan resolver problemas físicos de forma dinámica, el coste de prestar trabajo físico, como la limpieza y la construcción, disminuirá considerablemente. (https://www.youtube.com/watch?v=4UmFfI8CWuA&t=3481s）
- El hardware es el área por la que apostar durante los próximos 10 años: no comparte la afirmación de que «la IA destruirá a la humanidad» y considera que la demanda es ilimitada y que el hardware es el lado por el que merece la pena apostar, mientras que la inversión exclusivamente en software se encuentra en una posición incómoda. (https://www.youtube.com/watch?v=4UmFfI8CWuA&t=2676s）
Contexto y aclaraciones
Los subtítulos cubren todo el vídeo, de aproximadamente 1 hora, 13 minutos y 26 segundos, y este artículo recoge toda la conversación con Rao. Las citas del montaje inicial coinciden con el contenido del programa principal, y todas las marcas de tiempo del texto proceden de segmentos de este.