GLM-5.3-Flash : Z.ai décrit son modèle multimodal à contexte d’un million de tokens
Z.ai présente GLM-5.3-Flash, un modèle nativement multimodal de la famille GLM-5 avec un contexte allant jusqu’à un million de tokens.
Ce que Z.ai indique sur GLM-5.3-Flash
Selon Z.ai, GLM-5.3-Flash compte 320 milliards de paramètres au total, dont environ 18 milliards sont activés pour chaque requête. Cette activation partielle aide à limiter les besoins de calcul. Z.ai annonce une fenêtre de contexte allant jusqu’à un million de tokens et destine le modèle aux tâches complexes, à l’utilisation d’outils et aux processus d’agents en plusieurs étapes.
Une architecture adaptée aux longs contextes
Le modèle associe sparse attention et linear attention. La première recherche les informations utiles dans le contexte global ; la seconde contribue à réduire le coût de traitement. Dans la comparaison publiée par Z.ai avec GLM-5.3, GLM-5.3-Flash utilise environ trois fois moins de calcul pour l’attention et 4,4 fois moins de mémoire pour le cache KV. Ces chiffres proviennent du développeur et ne constituent pas une évaluation indépendante de la qualité sur des tâches clients.
Texte et données visuelles dans un même flux
GLM-5.3-Flash a été entraîné conjointement sur des textes et des données visuelles. D’après Z.ai, il prend en charge les images, la vidéo et les fichiers et peut interpréter des captures d’écran, la structure de documents, des graphiques et l’état d’une interface. Dans un processus d’agent, ce retour visuel peut aider à vérifier le résultat d’une étape avant de choisir la suivante.
Poids ouverts et déploiement
Z.ai a publié les poids de GLM-5.3-Flash sous licence MIT et cite SGLang, vLLM et TokenSpeed parmi les frameworks d’inférence compatibles. Le dépôt officiel du modèle fournit les conditions et les informations de compatibilité à jour.
Comment Z.ai a préparé son infrastructure
Selon Z.ai, l’inférence de production de GLM-5.3-Flash fonctionne sur un cluster de plus de 100 000 accélérateurs d’IA fabriqués en Chine. Un Infra Agent fondé sur GLM-5.3 a contribué à l’optimisation. L’entreprise indique que moins de deux semaines ont séparé la première adaptation du modèle de sa mise en production et que le débit de service de bout en bout a triplé par rapport au point de départ sur le même matériel.
Pourquoi cela intéresse NEXSTA
GLM-5.3 et GLM-5.3-Flash intéressent NEXSTA pour l’évaluation des longs contextes, de l’utilisation d’outils, de la rapidité des réponses et des entrées visuelles. Cet article présente les capacités annoncées par Z.ai ; il ne révèle aucune nouvelle fonction multimodale de NEXSTA.
Pour en savoir plus sur ces modèles et leur place dans le produit, consultez GLM et Z.ai : présentation des modèles et Quels modèles utilise NEXSTA ?.