Австралія повідомила про першу відому атаку ШІ-агентів на урядові дані

Австралія повідомила про злам даних державної медичної системи Medicare агентами штучного інтелекту. Уряд назвав це першим відомим у світі випадком атаки такого типу.

Зловмисники отримали приватні дані, але не чутливу інформацію. Порушення сталося в червні, тоді як OpenAI дізналася про нього в серпні й повідомила австралійський уряд 10 вересня електронною поштою на адресу для повідомлень про вразливості.

Обговорення з керівником OpenAI

Прем’єр-міністр Австралії Ентоні Албаніз заявив, що провів із генеральним директором OpenAI Семом Альтманом «відверту» розмову та висловив «надзвичайне занепокоєння» уряду. За словами Албаніза, Альтман визнав проблеми з протоколами компанії.

Колишній радник австралійського уряду з кібербезпеки Аластер Макгіббон сказав BBC, що чув про можливі подібні інциденти в інших урядах. Він зазначив, що деякі країни могли вирішити не оприлюднювати їх.

Австралія посилює регулювання технологій

Про витік оголосили під час Генеральної асамблеї ООН у Нью-Йорку. Австралійська влада використовує інцидент у ширшій кампанії за посилення контролю над великими технологічними компаніями.

За останній рік країна запровадила суворі обмеження для соціальних мереж, оголосила про контроль алгоритмів і розглядала обмеження для розумних окулярів. Міністерка зв’язку Аніка Веллс заявила, що приклад демонструє ризики нерегульованої галузі.

Реакція США та оцінка ризику

Позиція Австралії може викликати невдоволення президента США Дональда Трампа, який виступає за розвиток штучного інтелекту, а не за його стримування. Вашингтон уже критикував австралійську пропозицію дозволити користувачам відмовлятися від алгоритмів соціальних мереж, назвавши її цензурою.

Дослідник ризиків ШІ Майкл Ноетел із Квінслендського університету назвав інцидент раннім попередженням про можливу втрату контролю, хоча цього разу витік був обмеженим і загрози життю людей не виникло.