Стартап General Compute привлек 15 миллионов долларов для развития облачной инфраструктуры ИИ

Спрос на вычислительные мощности для работы систем искусственного интеллекта продолжает расти, однако отрасль сталкивается с двумя ключевыми проблемами: дефицитом специализированных процессоров и сложностью их развертывания в дата-центрах. Компания General Compute, новый игрок на рынке инференс-облаков (сервисов по аренде мощностей для запуска уже обученных моделей), привлекла 15 миллионов долларов посевных инвестиций при оценке бизнеса в 60 миллионов долларов. Раунд возглавил фонд FUSE VC при участии Carya Venture Partners и Village Global Ventures.

Переход от графических процессоров к специализированным решениям

Хотя графические процессоры (GPU) пользуются огромным спросом, эксперты отмечают, что они не всегда оптимальны для фазы инференса — процесса, когда модель генерирует ответы пользователю. Для этой стадии требуются иные вычислительные характеристики, что подталкивает рынок к созданию специализированных чипов. В качестве примера можно привести недавнюю активность компаний Groq и Cerebras, которые активно развивают узкоспециализированные архитектуры.

Компания General Compute сделала ставку на процессоры от разработчика SambaNova. Ожидается, что новая архитектура чипов компании позволит достичь значительно более высокой производительности:

• Скорость генерации на чипах SambaNova достигает 600–700 токенов в секунду.
• Для сравнения, стандартные графические процессоры обеспечивают около 250 токенов в секунду.
• Новые процессоры обладают большей гибкостью и расширенной памятью для хранения контекста вычислений.

Эффективность размещения в дата-центрах

Важным преимуществом выбранного оборудования является возможность упрощенного внедрения. В отличие от многих мощных систем, требующих сложного жидкостного охлаждения, процессоры SambaNova используют воздушное охлаждение и потребляют меньше энергии. Это позволяет интегрировать их в существующие дата-центры без проведения масштабных инфраструктурных работ.

Стратегия компании включает использование площадок, принадлежащих операторам дата-центров, а также переоборудование мощностей майнинговых ферм, для которых добыча криптовалюты стала экономически менее выгодной.

Перспективы рынка инференс-облаков

Инвесторы проводят параллели между партнерством General Compute и SambaNova с успешными кейсами прошлых лет, такими как сотрудничество Coreweave и Nvidia*. Эксперты полагают, что будущее индустрии ИИ не будет принадлежать одному монополисту. Конкуренция будет строиться вокруг скорости и стоимости обработки запросов, так как современные автономные агенты, взаимодействующие друг с другом и с базами данных, требуют минимальных задержек при передаче информации.

На данный момент General Compute уже запустила облачный сервис, который демонстрирует высокую эффективность при работе с большой языковой моделью MiniMax 2.7. Основная цель компании — сократить время выполнения сложных задач (например, генерации программного кода или работы голосовых помощников) с часов до нескольких минут, делая технологии ИИ более доступными и экономически эффективными.

* — деятельность компании запрещена на территории РФ