Глубинные причины выбора Agentic Infra ведущими китайскими LLM-компаниями: интервью с Infra AI
InfiniteYou (无问芯穹)
MiniMax
Moonshot AI
Несколько ведущих китайских разработчиков базовых моделей (MiniMax, 阶跃星辰, Zhipu AI, Moonshot AI) независимо друг от друга выбрали одного и того же поставщика AI-инфраструктуры — компанию InfiniteYou (无问芯穹). В статье разбирается, чем обусловлен этот выбор: решаются проблемы разрыва между экспоненциальным ростом спроса на вычисления и линейным расширением физических мощностей, скрытого падения точности моделей при стороннем развёртывании, высокой стоимости инференса и сложности эксплуатации кластеров. Компания предлагает платформу Agentic Infra, включающую «Центр распределения вычислительных мощностей», «Фабрику токенов» (Agentic MaaS) и «Магазин производительности AI», а также внедрила ключевые технологии: кросскластерное гетерогенное PD-разделение с архитектурой PDD, систему эксплуатационного мониторинга на базе ИИ-агентов и генератор операторов для чипов.
На форуме WAIC компании MiniMax и 阶跃星辰 одновременно выступили на мероприятии AI-инфраструктурной компании InfiniteYou (无问芯穹): первая подписала стратегическое соглашение о сотрудничестве, вторая представила доклад. Ранее на Пекинском форуме Чжунгуаньцунь с сооснователем и CEO InfiniteYou на одной панели были главы Zhipu AI (Чжан Пэн) и Moonshot AI (Ян Чжилинь). Таким образом, четыре ведущих китайских разработчика базовых моделей заключили глубокие партнёрства с одной и той же Infra-компанией. Ключевые причины: на стороне спроса — к 2026 году инференс обгонит обучение по потреблению AI-вычислений, стоимость инференса снизилась в 280 раз за два года, но общие AI-расходы компаний выросли; дневной объём вызова токенов в Китае превысил 140 триллионов, увеличившись на 40% за год. На стороне предложения — расширение физических мощностей остаётся линейным, дефицит сохранится годы. Кроме того, при развёртывании моделей сторонними поставщиками часто происходит скрытое падение точности (до 30%), которое обычный мониторинг не выявляет. InfiniteYou внедрила систему тестирования на точность, гарантирующую, что пользователи не заметят разницы между её API и оригинальным API модели. Компания представила технологию кросскластерного гетерогенного PD-разделения (Prefill-Decouple), которая разбивает процесс инференса на три стадии (P, RelayDecode, MainDecode), снижая TTFT на 51,5% и стоимость одного токена на 37,5%. Также запущена интеллектуальная система эксплуатации кластеров, повышающая эффективность работы персонала в 5 раз и скорость обработки критических сбоев в 6 раз. Платформа Agentic Infra состоит из трёх компонентов: «Центр распределения вычислительных мощностей» (управляет 37 000 P и 16 типами чипов), «Фабрика токенов» (Agentic MaaS, дневной объём токенов вырос в 40 раз с декабря) и «Магазин производительности AI» (решения для игр, медицины, юриспруденции, энергетики). Компания также разрабатывает «рой ИИ-агентов» для поддержки пользователей, эксплуатации кластеров и генерации операторов для чипов. В международном масштабе InfiniteYou сравнивают с Baseten, Together AI и Fireworks AI (оценка $13-15 млрд), но в отличие от них компания работает с фрагментированной китайской экосистемой чипов и строит гетерогенную архитектуру как ключевое преимущество.
- Сокращения
- WAIC = World Artificial Intelligence Conference — Всемирная конференция по искусственному интеллекту
- Agentic Infra = Agentic Infrastructure — агентная инфраструктура
- MaaS = Model as a Service — модель как услуга
- PD = Prefill-Decode — префилл-декод
- PDD = Prefill-Decouple-Decode — префилл-разделение-декод
- TTFT = Time to First Token — время до первого токена
- KV Cache = Key-Value Cache — кэш ключ-значение
Источник: QbitAI 量子位 —
оригинал