Acara dan tamu
Percakapan podcast a16z dengan mitra a16z Mike Volpi (mantan eksekutif Cisco yang memimpin akuisisi pada era 90-an); dipandu mitra a16z Raghu Raghuram dan Guido Appenzeller. Judul asli bahasa Inggris: Mike Volpi on Why AI Infrastructure Will Outlast the Hype Cycle.
Pokok-pokok utama
- Infrastruktur AI saat ini “100% berguna dan akan dimanfaatkan sepenuhnya, bahkan secara berlebihan,” tetapi belum tentu menjadi milik pemilik saat ini; neraca 200 perusahaan cloud baru yang disebut Nvidia tidak sehat, dan penyesuaian ekonomi serta penertiban industri diperkirakan akan terjadi 6:48 7:15
- Perbandingan dengan serat optik pada era 90-an: WDM melipatgandakan kapasitas satu serat hingga 40–80 kali; daya komputasi dibatasi oleh Hukum Moore, sehingga peningkatannya lebih moderat. Namun, penerapan praktis AI lebih luas daripada bandwidth saat itu, dan pertumbuhan pendapatan Anthropic serta OpenAI jauh melampaui perusahaan pada masa itu 4:20
- Dari segi skala, investasi infrastruktur AI saat ini sekitar 2% dari PDB, sedangkan investasi infrastruktur internet dahulu hanya beberapa persepuluh poin persentase dari PDB. Dahulu yang dibangun adalah “komunikasi”; sekarang yang dibangun adalah “kecerdasan”, yang nilai ekonominya lebih tinggi 7:51
- Umur GPU melampaui perkiraan: H100 awalnya diperkirakan berumur 5 tahun dengan biaya sewa 1.82 dolar per jam; empat tahun kemudian, harga sewanya justru naik menjadi 2.5–3 dolar. Metrik utamanya adalah berapa banyak pendapatan token yang dapat dihasilkan per watt; kelangkaan ada pada manufaktur semikonduktor itu sendiri, dan sulit berubah dalam 2–3 tahun. Pihak yang memiliki kapasitas fabrikasi wafer adalah penentu utama 11:23 34:21
- Pengalaman akuisisi Cisco: sekitar 70 akuisisi selama masa jabatannya; kira-kira sepertiga sangat sukses, sepertiga biasa-biasa saja, dan sepertiga gagal. Tidak ada satu transaksi pun yang melebihi 4–5% dari kapitalisasi pasar. Pada 2000, sekitar 50% pendapatan berasal dari akuisisi. Sarannya untuk Nvidia: Mellanox adalah akuisisi brilian; ia tidak memahami Hugging Face, tetapi bisa dicoba 15:18 18:09
- Pelajaran dari kemunduran Cisco: pelanggan memesan secara berlebihan, lalu pesanan turun menjadi seperempat dari level sebelumnya. Hasil kuartalan meleset sebesar 35–40% (selama satu dekade tidak pernah meleset), sementara harga saham turun dari lebih dari 80 dolar menjadi 9 dolar, merosot sekitar sembilan puluh persen dalam enam bulan. Jaringan pusat data AI juga harus berubah: lalu lintas dapat diprediksi dan jalur terus terpakai penuh, sehingga switching paket dengan multiplexing statistik tidak lagi sesuai. Ke depannya, jaringan akan beralih ke switching mirip sirkuit/switching optik dan arsitektur yang lebih murah 45:41 46:48
Latar belakang dan catatan
Percakapan podcast a16z dengan mitra a16z Mike Volpi, yang membandingkan infrastruktur AI saat ini dengan pengalamannya langsung di Cisco pada era 90-an. Catatan cakupan subtitle: subtitle video ini terdiri atas 1740 segmen bertanda waktu, mencakup 0:00–55:53 (durasi total 56:06), dan pada dasarnya mencakup keseluruhan video. Pandangan dan cap waktu dalam artikel ini disampaikan berdasarkan subtitle asli; setiap cap waktu menunjukkan awal segmen ucapan terkait. Catatan waktu publikasi: waktu publikasinya sekitar 00:00 pada 2026-11-12 waktu Hong Kong, dikonversi dari waktu relatif yang ditampilkan YouTube saat konten diambil, dengan ketepatan pada tingkat jam.