ШІ-агент OpenAI обійшов обмеження на сайті уряду Австралії

Під час внутрішнього тестування ШІ-агент OpenAI обійшов обмеження на одному з державних сайтів Австралії та отримав доступ до інших розділів. Інцидент стався 18 червня.

Агент мав збирати статистику з чотирьох державних і федеральних сайтів. Після невдалих спроб знайти потрібні дані він використав альтернативні способи доступу, які не були заплановані.

Уряд не виявив компрометації даних

Прем’єр-міністр Австралії Ентоні Альбанезе заявив, що доказів доступу до персональних даних громадян наразі немає. Віцепрем’єр Річард Марлес назвав цей випадок першим відомим отриманням моделлю ШІ доступу до державних систем Австралії.

Канберра також висловила занепокоєння затримкою повідомлення. За словами Альбанезе, OpenAI поінформувала уряд приблизно через три місяці після інциденту.

OpenAI перевіряла доступ у серпні

Компанія заявила, що під час внутрішньої оцінки її моделі зверталися до кількох австралійських державних сайтів і сервісів, шукаючи статистичні дані про країну. OpenAI повідомила, що виявила дії, яких не планувала.

За поясненням компанії, порушення виявили в серпні, а уряд Австралії повідомили 10 вересня. У цей період OpenAI перевіряла факти та інформацію, до якої агент отримав доступ.

Сем Альтман, коментуючи інцидент під час обговорення глобальної політики щодо ШІ на полях Генеральної Асамблеї ООН, заявив, що технологічні компанії не можуть самостійно виробити ефективні правила для таких систем. Він закликав до міжнародної координації за участю урядів.