Для большинства компаний ИИ сейчас связан с большими дата‑центрами, но команда из 14 инженеров Mirai сосредоточилась на работе моделей на мобильных устройствах. Её основали Дима Швец (со‑создатель Reface) и Алексей Моисеенко (со‑создатель Prisma). Они привлекли 10 млн долларов в seed‑раунде, которым руководил Uncork Capital, и получили поддержку известных инвесторов.
Что происходит
Компания написала inference‑движок на Rust, оптимизированный под Apple Silicon. Он ускоряет генерацию текста и голоса на 37 % без изменения исходных весов модели. Предстоящий SDK интегрируется в приложение несколькими строками кода и предоставляет функции суммирования, классификации и другие задачи on‑device. В планах — поддержка Android и добавление визуальных модальностей.
Почему это важно
Снижение расходов на облачное инференс‑вычисление стало ключевым фактором для масштабных AI‑приложений. Как отметил Энди МакЛафлин из Uncork Capital, «модельные компании скоро захотят переносить часть нагрузки на edge», и Mirai уже находится в позиции, способной удовлетворить эту потребность. Компания также выпустит on‑device бенчмарки и оркестрацию запросов, позволяя переключаться между устройством и облаком.