NVIDIA та CoreWeave запустили Vera Rubin NVL72 для робочих навантажень AI-агентів

CoreWeave оголосила про доступність систем NVIDIA Vera Rubin NVL72 у своїй хмарі та їхнє використання у виробничих AI-навантаженнях. Оголошення пролунало на заході CoreWeave Fully Connected у Сан-Франциско, що триває цього тижня.

Першим клієнтом стала Cognition — розробник AI-програміста Devin. У ранніх тестах на робочих завданнях із програмної інженерії Vera Rubin NVL72 забезпечила до 4,8 раза більшу загальну пропускну здатність токенів, ніж GB200 NVL72.

CoreWeave також представила NVIDIA Vera — процесор для навантажень AI-агентів — і запустила CoreWeave Forge, середовище для навчання, оцінювання та постійного вдосконалення моделей і агентів.

Cognition масштабує Devin

Cognition використовує CoreWeave для навчання, підкріплювального навчання та промислового інференсу Devin. За дев’ять місяців компанія масштабувала інфраструктуру до тисяч GPU.

Для порівняння Vera Rubin NVL72 з GB200 NVL72 Cognition відібрала частину завдань із FrontierCode і доручила їх виконання AI-агентам. За словами представника компанії Сіласа Альберті, для агентного програмування важливі довгі контексти, висока одночасність і вартість токена; тестові результати мають забезпечити швидше генерування коду та реагування Devin.

Процесор Vera та ізольовані середовища

У конфігурації CoreWeave один стояк із Vera містить 128 процесорів і 11 264 ядра, чого достатньо для понад 11 000 одночасних середовищ із одним ядром на кожне. CoreWeave Sandboxes ізолює ці середовища на апаратному рівні та підтримує навчання, використання інструментів агентами й оцінювання моделей.

У тестах запуск агентних sandbox-середовищ на Vera був більш ніж утричі швидшим. На Terminal-Bench CoreWeave зафіксувала приріст продуктивності у 1,7 раза серед усіх завдань, що завершилися успішно.

Forge об’єднує виробництво й навчання

Forge поєднує Weights & Biases, експертизу OpenPipe у посттренуванні та відкритий проєкт marimo. Середовище підтримує різні моделі, фреймворки й хмари, а також повертає дані з виробничої експлуатації до наступних циклів навчання.

До складу Forge входять загальнодоступні CoreWeave ARIA і Sandboxes та новий сервіс Agent Lens. За даними CoreWeave, Agent Lens підвищує виявлення збоїв на 20% і зменшує вартість їх виправлення вдвічі; ці показники компанія наводить для аналізу десятків мільйонів трас роботи агентів.

Serverless RL у Forge, за результатами CoreWeave, навчає моделі у 1,4 раза швидше та на 40% дешевше за самокеровану конфігурацію. Серед перших компаній, що будують на Forge, названі Canva, Capital One і MasterClass.