vLLM Semantic Router выпустила d3-ultra — открытую 27B-модель для принятия решений

Команда vLLM Semantic Router выпустила d3-ultra — мультимодальную модель принятия решений на 26,09 млрд параметров с открытыми весами под лицензией Apache-2.0. В отличие от языковых моделей, она не генерирует текст: модель один раз читает входные данные и возвращает вероятность для каждого ответа на каждый вопрос. Разработчикам это даёт маршрутизацию, классификацию, визуальную привязку и проверку видео одним вызовом с открытыми весами.

Модель входит в семейство Decision 3.0, которое охватывает размеры от 0,6B до 27B параметров. Входные данные могут включать текст или JSON, изображения и видео. Каждый вопрос имеет свой тип: выбор одного из нескольких вариантов, да/нет с вероятностью утвердительного ответа, оценка по шкале, локализация объекта в кадре или отслеживание цели на протяжении всего видео.

Изображения можно встраивать и в сами вопросы, и в варианты ответов. Архитектурно d3-ultra построена на бэкбоне Qwen3.5 с 64 слоями: 48 слоёв с линейным вниманием и 16 с полным вниманием. Базовый чекпоинт в карточке модели не указан, но в рецепте vLLM упоминается, что родственная модель d3 обучалась на основе Qwen3.8-27B.

Контекстное окно составляет 131 072 токена на вопрос, при превышении запрос завершается ошибкой max_length_exceeded без скрытого усечения. В тесте SR-Text, включающем 10 411 текстовых запросов и 73 495 вопросов, d3-ultra набрала 87,2 балла по скорректированной на случайность точности. Это выше, чем у GLiDE V1.2 (85,1), d1-ultra (83,4), d3-turbo (83,1), d3 (81,4) и Jev 1.14 (73,1).

Модель лидирует во всех областях, кроме искусства и человеческого вкуса, где d1-ultra опережает её на 1,2 балла — в пределах погрешности. В задачах визуальной локализации SR-Box ситуация иная. На 5 678 вопросах по 4 984 изображениям из 10 доменов d3-ultra показывает 58,2% точности при пороге IoU 0,5, уступая d3-turbo с 60,0%.

По 9 доменам разрыв сохраняется: 54,6% против 59,6%. Команда отмечает, что d3-turbo остаётся сильнее на естественных изображениях, тогда как d3-ultra лучше работает с графиками и диаграммами. По задержке на одном ускорителе AMD Instinct MI325X с BF16-весами модель отвечает на один вопрос о фотографии за 304 мс.

Пакет из 255 вопросов обрабатывается за 2,16 секунды — примерно 7,3 мс на дополнительный вопрос. Официальных квантизованных вариантов пока не опубликовано. Для развёртывания доступны четыре пути: Transformers с trust_remote_code=True и transformers==5.17.0, движок vLLM Semantic Router Engine, бесплатный API на decision.vllm-sr.ai и демо на Hugging Face Space.

Опциональный пакет flash-linear-attention добавляет быстрые GPU-ядра. Все бенчмарки self-reported на приватных тестовых наборах, поэтому независимая проверка результатов пока невозможна. Модель уже отправлена на публичный индекс, но ещё не включена в него.

Для разработчиков, которым нужна быстрая маршрутизация и классификация без генерации текста, d3-ultra предлагает открытую альтернативу проприетарным решениям вроде Jev 1.14.