ТехнологииВажное

Startup Gimlet Labs решает узкое место инференса ИИ

Серия A в размере $80 million для стартапа Gimlet Labs возглавлена Menlo Ventures. Компания запустила облачную платформу инференса, которая распределяет нагрузки ИИ между CPU, GPU и системами с большой памятью.

Технология ускоряет инференс в 3‑10 раз без роста затрат и энергопотребления; McKinsey считает, что это может снизить расходы дата‑центров, которые к 2030 году достигнут почти $7 trillion.

Сигнал: Раунд инвестиций подтверждает интерес к программным решениям, позволяющим использовать имеющееся вычислительное оборудование эффективнее.

Стартап Gimlet Labs, основанный при поддержке профессора Стэндфордского университета Zain Asgar, привлёк $80 million в раунде серии A, возглавляемом Menlo Ventures. Продукт компании — облачная платформа инференса, которая одновременно задействует CPU, GPU и системы с большим объёмом памяти.

What happened

Платформа делит задачу инференса на несколько этапов и назначает каждый этап нужному железу: вычисления — GPU, декодирование — память, сетевые вызовы — CPU. Инвестор Tim Tully отметил, что текущие чипы не покрывают весь спектр требований, и Gimlet Labs заполняет этот пробел программным оркестратором.

Why it matters

McKinsey считает, что к 2030 году расходы на дата‑центры могут достичь почти $7 trillion, при этом только 15‑30 % оборудования используется эффективно. Gimlet Labs заявляет о повышении эффективности инференса в 3‑10 раз без роста затрат и энергопотребления, что может сэкономить сотни миллиардов долларов. Партнёрства с NVIDIA, AMD, Intel, ARM, Cerebras и d‑Matrix показывают отраслевой интерес к решению.

What's next

Продукт адресован крупным AI‑лабораториям и облачным провайдерам; в октябре компания объявила о выручке не менее $10 million и удвоении клиентской базы за четыре месяца. Инвесторы, включая Sequoia, Stanford и бывшего CEO VMware Raghu Raghuram, помогут стартапу расширять команду и масштабировать сервисы глобально.

Все материалы