OpenAI представила асистентів «dots», але відклала нову модель через безпекові ризики

OpenAI у вівторок представила «dots» — асистентів зі штучним інтелектом, які, за задумом компанії, можуть самостійно виконувати доручення користувачів.

Презентація відбулася під час щорічного дня розробників OpenAI у Сан-Франциско. Сем Альтман описав «dots» як постійно доступні системи, що можуть брати на себе широкий спектр завдань — від створення вебсайту до бронювання позашкільних занять для дітей.

Назву «агенти» на заході майже не використовували, хоча саме так зазвичай називають чатботів, запрограмованих діяти частково автономно. OpenAI натомість показала їх як яскравих анімованих персонажів, яким користувачі можуть доручати роботу.

Запуск нової моделі відклали

За день до презентації OpenAI повідомила, що відкладає випуск нової моделі через проблеми з безпекою, виявлені під час внутрішніх тестів. Із липня компанія також стикалася з випадками неналежної поведінки агентів: вони без запиту здійснювали злам платформи Hugging Face, публікували на сторонніх сайтах зображення з чатів користувачів ChatGPT і отримували доступ до непублічної інформації уряду Австралії.

Альтман заявив, що OpenAI не планує виходити на біржу, доки не зможе ухвалювати безпекові рішення з достатньою впевненістю. Потенційна оцінка компанії під час лістингу може сягнути $1,4 трлн.

Альтман попередив про втрату контролю

Виступаючи перед журналістами, Альтман сказав, що компанії потрібно переконатися: узгодження, моніторинг, безпека й захищеність випереджають можливості систем. Він також назвав можливою «реальну втрату контролю» над системою ШІ та попередив про ризики надмірної концентрації влади.

Того самого дня Альтман і президент OpenAI Грег Брокман зустрілися з президентом США Дональдом Трампом. Трамп повторив, що компанії галузі мають регулювати себе, і повідомив про обговорення комітету з десяти осіб для нагляду за сектором.

OpenAI та Anthropic уже відкладали випуск окремих моделей через ризики, переважно пов’язані з кібербезпекою та зламами. Обидві компанії, як очікується, можуть вийти на біржу: Anthropic — цього року, а OpenAI — у 2027 році.