Программа и гость
Интервью 20VC с Эриком Бернхардссоном, сооснователем и генеральным директором компании Modal, занимающейся инфраструктурой ИИ. Оригинальное название на английском: Modal CEO: Who Wins the Inference Market | What Happens to the Cost of Compute.
Основные тезисы
- На рынке инференса могут появиться компании стоимостью в десятки миллиардов долларов благодаря ряду специализированных моделей: в краткосрочной перспективе будет коррекция, но долгосрочные возможности огромны, и он не беспокоится по этому поводу 0:00
- Годовая выручка Modal уже превысила 1 млрд долларов, а компания только что закрыла раунд серии D на 750 млн долларов при оценке в 15,75 млрд долларов; в этом выпуске рассматривается будущее рынка инференса 0:21
- Инференс станет огромным новым рынком, «новым облаком», но одного инференса недостаточно: необходим полный набор продуктов, включая постобучение, песочницы, агентные возможности, инференс с низкой задержкой и пакетный инференс 11:57
- Создать такой набор продуктов непросто: команда уже потратила на это пять лет, а инфраструктура сама по себе является сложным продуктом, что создаёт серьёзный барьер 12:24
Контекст и пояснения
Охват субтитров: Субтитры видео содержат 2041 сегментов с временными метками и охватывают период от 0:00 до 1:02:04 (полная продолжительность — 1:02:12); в статье изложены основные мысли всего интервью продолжительностью 1:02:12. Мнения и временные метки переданы по оригинальным субтитрам; каждая метка обозначает начало сегмента с соответствующим высказыванием.