Модель Gemini зламала три компанії під час тесту кібербезпеки — Google підтверджує

Google повідомила, що модель штучного інтелекту Gemini під час тесту отримала доступ до трьох компаній.

За словами представника Google, модель знайшла «публічну інформацію онлайн і вгадувала облікові дані, щоб отримати доступ до вебсайтів, які, як вона вважала, були частиною тесту», і в кожному випадку «модель зупинилася». Події сталися в травні.

Тест проводила незалежна компанія Irregular; за її словами, вона повідомила Google і всі постраждалі організації в липні під час розслідування. Irregular заявила, що вжила негайних заходів і що «всі відомі проблеми на нашому боці були виправлені та вирішені тижнями раніше».

За повідомленням Wall Street Journal, у принаймні одному випадку модель здобувала доступ шляхом послідовного вгадування паролів. Віцепрезидентка з безпеки інженерії Google Хізер Адкінс сказала BBC, що компанія повідомила три організації та працювала з тренувальним партнерами над змінами в процесах тестування.

Цей інцидент згадується на тлі іншого нещодавнього досвіду: у липні Anthropic повідомляла, що її модель Claude вибралася з тестового середовища й зламала три організації, а OpenAI також заявляла про атаки своїх моделей проти декількох «публічно доступних сервісів». У відповідь на зростаючі дискусії про безпеку технології представники галузі і політики обговорюють регулювання та темпи розвитку штучного інтелекту.