NVIDIA випустила Nemotron 3.5 Super VL і дві моделі Bolt для локальних агентів

NVIDIA випустила відкриту модель Nemotron 3.5 Super VL зі 120 млрд параметрів і дві моделі Nemotron 3.5 Bolt, розраховані на запуск агентів від дата-центрів до локальних пристроїв. Super VL і Bolt 74B-A9B доступні вже зараз, а Bolt E4B має вийти 23 жовтня.

Super VL призначена для мультимодальних агентських завдань: дотримання інструкцій, роботи з інструментами, багатокрокових бізнес-процесів і аналізу зображень. NVIDIA заявляє, що модель має точність, зіставну з її найбільшою reasoning-моделлю, але приблизно з п’ятою частиною кількості параметрів.

Моделі Bolt для локального запуску

Nemotron 3.5 Bolt 74B-A9B 24GB використовує нативну 2-бітну квантизацію, щоб уміщуватися в 24 ГБ пам’яті та працювати на NVIDIA RTX і DGX Spark поруч з іншими застосунками. Модель призначена для локальних завдань — від пошуку в мережі до написання й налагодження коду — без передавання роботи в хмару.

Bolt E4B 4GB розрахована на GeForce RTX, Jetson і RTX/DGX Spark. NVIDIA позиціонує її для швидких голосових асистентів, інтерактивних персонажів та вбудованих інтерфейсів із багатокроковими агентськими функціями.

Навчання та розгортання Super VL

Super VL постачається з відкритими вагами, наборами даних і рецептами навчання. Модель навчали приблизно на 26 трлн токенів, а подальше налаштування виконували на близько 3,8 млн зразків із підкріпленням у десятках середовищ.

Компанії можуть донавчати модель на власних даних, інструментах, політиках і робочих процесах. NVIDIA повідомила про використання Super VL для фінансового аналізу, кібербезпеки, програмування, медичних страхових заяв, наукового пошуку та інших спеціалізованих завдань.

Модель працює з текстом, зображеннями, вебсторінками, PDF-файлами, таблицями та графіками. NVIDIA також заявляє, що запуск на платформі Dynamo дає змогу обслуговувати до восьми разів більше користувачів за затримки, зменшеної на 85%.

Super VL доступна через Hugging Face, OpenRouter, ModelScope і NVIDIA NIM. Bolt 74B-A9B доступна через Hugging Face та підтримує llama.cpp, Ollama, LM Studio, Unsloth і vLLM; її також готують для ноутбуків NVIDIA RTX Spark, які мають надійти 16 жовтня.