NVIDIA представила Minerva для моніторингу всієї інфраструктури AI-фабрик

NVIDIA запустила Minerva — платформу AIOps, яка допомагає операційним командам виявляти проблеми в AI-фабриках до того, як вони вплинуть на роботу систем.

Платформа об’єднує дані про GPU, мережі, сховища, планувальники та робочі навантаження. Minerva аналізує мільярди точок даних щогодини, виявляючи аномалії, прогнозуючи відмови та пов’язуючи події з урахуванням топології інфраструктури.

Граф інфраструктури та AI-навантажень

Minerva створює динамічний граф, який пов’язує GPU, SuperNIC, комутатори, кабелі та завдання. Це дає змогу простежити повільне навчання моделі до конкретного компонента навіть у системах із сотнями тисяч GPU.

Платформа може групувати численні сигнали в один інцидент із ймовірною першопричиною, щоб оператори не отримували окреме повідомлення про кожен симптом. NVIDIA пов’язує це зі збільшенням часу між перериваннями, швидшим ремонтом і вищим використанням GPU.

AI-асистент і автоматизація

До Minerva входить власний AI-асистент, а також підключення до зовнішніх агентних AI-інструментів. Оператори можуть запитувати про стан кластера природною мовою та отримувати рекомендації щодо виправлення проблем.

Команди можуть залишати виконання змін за людиною або підключати автоматизацію через API інфраструктури та зовнішні системи. Платформа орієнтується на показник корисної віддачі AI-фабрики, який охоплює GPU-години, goodput, доступність кластера та виробництво токенів.

Партнери та постачальники

IREN уже використовує Minerva для оптимізації своїх AI-фабрик. Технічний директор компанії Деніс Скриннікофф заявив, що єдине представлення мережі, GPU та завдань допомагає команді зосередитися на профілактичному обслуговуванні.

Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI і Tesla планують розгорнути Minerva. Dell Technologies, Lenovo та Supermicro пропонуватимуть платформу у складі своїх портфелів операційних рішень для AI-фабрик.