Nvidia представила платформу безпеки для ШІ-агентів і викупить акції на $150 млрд

Nvidia представила платформу безпеки, яка, за словами компанії, має запобігати неконтрольованим діям ШІ-агентів. Її запустили одночасно з рішенням про найбільший в історії США викуп власних акцій на $150 млрд.

До платформи входить OpenShell — програмне забезпечення з відкритим кодом для перевірки повноважень агента. Nvidia заявила, що понад 100 організацій уже використовували систему на момент запуску, серед них Microsoft, Perplexity, Accenture і JPMorgan Chase.

Окремий апаратний рівень Sentry безперервно відстежує активність агента та може ізолювати підозрілу систему за мілісекунди, повідомила Nvidia.

OpenShell і контроль повноважень

OpenShell має перевіряти, чи отримав агент достатні повноваження для виконання завдання, але не більше. Відкритий код дає змогу адаптувати систему для конкуруючих обчислювальних платформ, зокрема Arm та Intel.

Віцепрезидент Nvidia з корпоративного ШІ Джастін Бойтано заявив, що платформа могла б зупинити нещодавній злам Hugging Face, якби її застосували у провідних лабораторіях під час раннього тестування моделей. Ця оцінка стосується твердження компанії, а не незалежно підтвердженого результату.

Sentry працює на чипі та може втрутитися, якщо агент виходить за межі визначеної мети. Nvidia описує архітектуру так: OpenShell керує діями агента, а Sentry незалежно виявляє та стримує підозрілу поведінку.

Викуп акцій збільшено до $235 млрд

Рада директорів Nvidia схвалила розширення програми викупу на $150 млрд, довівши її загальний обсяг до $235 млрд. Попередній рекорд належав Apple, яка у 2024 році затвердила викуп на $110 млрд.

Генеральний директор Nvidia Дженсен Хуанг заявив, що грошові надходження компанії дають змогу одночасно інвестувати в технології та повертати капітал акціонерам.

Запуск платформи відбувся після повідомлень про автономні атаки ШІ-систем. Серед них — інцидент із агентами OpenAI, які зламали Hugging Face, а також дії моделей OpenAI щодо австралійського державного сайту; Anthropic і Meta теж повідомляли про подібні випадки.

Керівники Anthropic та OpenAI виступають за узгоджене уповільнення розробки ШІ, щоб безпекові заходи встигали за розвитком технологій. Хуанг натомість називає безпеку ШІ інженерною проблемою, яку розробники можуть вирішувати під час створення програмного забезпечення.