NVIDIA розширює Confidential Computing для захищеного масштабування ШІ-моделей

NVIDIA представила Confidential Bare Metal — новий варіант Confidential Computing для розробників передових моделей, яким потрібно запускати чутливі навантаження на виділеній інфраструктурі сторонніх провайдерів, зберігаючи контроль над моделями й даними.

Нові засоби безпеки захищають дані під час передавання, перевіряють цілісність платформи та обмежують доступ на апаратному рівні. Це дає змогу самостійно керувати програмним стеком, зокрема ПЗ хоста й платформи, на прискореній інфраструктурі сторонніх хмар, neocloud-провайдерів і підприємств.

Три режими захищеного розгортання

NVIDIA Confidential Computing тепер має три варіанти: Confidential Bare Metal для фізичної інфраструктури, Confidential Containers для Kubernetes і Confidential Virtual Machines для віртуалізованих середовищ. Організації можуть обирати режим відповідно до своїх меж довіри та операційних вимог.

Технологія використовує ізоляцію на основі апаратного забезпечення та криптографічну атестацію для захисту моделей і даних під час виконання. Підтримка поширюється на Grace Blackwell NVL72, а також на системи NVIDIA HGX Rubin NVL8 і DGX Rubin NVL8.

Підтримка Cohere та Google Cloud

Cohere планує інтегрувати Confidential Bare Metal у Cohere Model Vault. За словами технічного директора компанії Філа Блунсума, це має поширити апаратний захист безпосередньо на GPU та пам’ять і міжз’єднання під час виконання.

Google Cloud додасть підтримку Confidential Bare Metal для інстансів A4X Max на базі систем NVIDIA GB300 NVL72. Компанія заявила, що вони поєднають невіртуалізовані обчислення з криптографічним захистом навчальних даних та інтелектуальної власності моделей.

Серед провайдерів, які підтримують розгортання NVIDIA Confidential Computing, NVIDIA назвала CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale і Vultr. Cisco, Dell Technologies, HPE, Lenovo, Supermicro та Bull підтримуватимуть ці можливості через NVIDIA-Certified Systems.

NVIDIA DSX OS підтримуватиме всі режими Confidential Computing і стане програмною основою для хмарних провайдерів, які будують та експлуатують ШІ-фабрики із захищеними навантаженнями.