Новости ИИ

Z.ai раскрыла возможности GLM-5.3-Flash: мультимодальность и контекст до 1 млн токенов

23 сентября Z.ai опубликовала подробности об архитектуре и возможностях GLM-5.3-Flash — первой нативно мультимодальной модели семейства GLM-5.

Что известно о GLM-5.3-Flash

По данным Z.ai, у модели 320 млрд параметров, из которых при обработке запроса задействуется около 18 млрд. Активируется лишь часть большой модели: такой подход помогает уменьшить вычислительную нагрузку. Заявленный контекст — до 1 млн токенов. Z.ai ориентирует GLM-5.3-Flash на сложные задачи, работу с инструментами и многошаговые агентные процессы.

Архитектура для длинного контекста

Модель сочетает sparse attention и linear attention. Первый механизм выбирает релевантные части длинного контекста, второй помогает снизить стоимость его обработки. В опубликованном Z.ai сравнении с GLM-5.3 для GLM-5.3-Flash указаны примерно втрое меньшие вычисления attention и в 4,4 раза меньший размер KV-cache. Это результаты сравнения самого разработчика, а не независимая оценка качества модели в задачах пользователей.

Текст и визуальная информация в одной задаче

GLM-5.3-Flash обучалась работать с текстом и визуальной информацией. По описанию Z.ai, она поддерживает изображения, видео и файлы, может разбирать скриншоты, структуру документов, диаграммы и состояние интерфейса. В агентном процессе это позволяет учитывать визуальный результат шага, прежде чем выбрать следующее действие.

Открытые веса и развёртывание

Z.ai опубликовала веса GLM-5.3-Flash под лицензией MIT и заявила поддержку SGLang, vLLM и TokenSpeed для инференса. Условия и совместимость конкретного способа развёртывания следует сверять с официальным репозиторием модели.

Как Z.ai подготовила инфраструктуру

По сообщению Z.ai, production-инференс GLM-5.3-Flash работает на кластере из более чем 100 000 китайских ИИ-ускорителей. В оптимизации участвовал Infra Agent на базе GLM-5.3. Компания пишет, что путь от первой адаптации модели до готовности к production занял менее двух недель, а производительность обслуживания запросов выросла примерно втрое относительно исходного варианта на том же оборудовании.

Почему это интересно для NEXSTA

Развитие GLM-5.3 и GLM-5.3-Flash интересно NEXSTA с точки зрения сценариев с длинным контекстом, инструментами, быстрым откликом и визуальными данными. Эта новость рассказывает о возможностях модели по материалам Z.ai; внедрение новых мультимодальных сценариев в NEXSTA здесь не объявляется.

Подробнее о различии моделей и их роли в продукте — в материалах «GLM и Z.ai: что это за модели» и «Модели в NEXSTA».

Источники