Компания Alibaba официально выпустила веса модели Qwen3.8-Flash-Next, предоставив разработчикам раннюю предварительную версию и инструмент для оценки будущей архитектуры Qwen4. Эта мультимодальная модель, созданная для работы со сложными вычислительными и генеративными процессами, поставляется в комплекте с конфигурациями для тестирования на высокопроизходительном железе, в частности с использованием инфраструктуры NVIDIA GB300 NVL72, специально оптимизированной для задач продвинутого агентного программирования.
Архитектурные прорывы и смесь экспертов (MoE)
Представленная превью-модель использует сложную мультимодальную архитектуру со смесью экспертов (MoE), призванную сбалансировать чистую производительность и эффективность выполнения. Разделяя общий объем параметров и активные вычисления на один токен, модель справляется с трудоемкими циклами логического вывода без критического увеличения задержек.
- Масштаб основной модели: 125 миллиардов параметров, составляющих базовое ядро.
- N-граммные эмбеддинги: Дополнительные 51 миллиард параметров для структурной эффективности.
- Активные параметры: Всего 6 миллиардов параметров активируются на один токен в процессе инференса.
- Нативное окно контекста: Огромная нативная емкость контекста в 262 144 токена.
- Расширенный контекст: Масштабирование до 1 000 000 токенов для анализа крупных репозиториев.
Агентный кодинг на базе NVIDIA GB300 NVL72
Поскольку автоматизация в разработке ПО смещается в сторону автономных агентских рабочих процессов, большие языковые модели должны одновременно обрабатывать целые кодовые базы, библиотеки документации и циклы обратной связи во время выполнения. Сочетание Qwen3.8-Flash-Next и передовой платформы NVIDIA GB300 NVL72 обеспечивает высокую пропускную способность памяти и вычислительную мощность, необходимые для бесперебойного выполнения этих многошаговых задач агентов.
Разработчики и исследователи, желающие изучить возможности превью-версии архитектуры Qwen4, могут получить доступ к весам модели для тестирования генерации кода, исправления ошибок и автономной навигации по программному обеспечению при высоких нагрузках.
Источник: Оригинальная статья
