Президент Microsoft закликав терміново посилити правила безпеки для ШІ

Президент Microsoft Бред Сміт закликав терміново посилити правила безпеки для штучного інтелекту, заявивши, що нині ця технологія регулюється слабше, ніж молоко та пральні машини.

Сміт сказав BBC, що компанії мають отримати «аварійні гальма» — механізми для паузи або сповільнення роботи ШІ, якщо система вийде з-під контролю. Він також запропонував юридично зобов’язати операторів допомагати «постраждалим» у разі злому систем автономними ШІ-агентами.

Керівники Microsoft говорять про контроль

Сміт назвав штучний інтелект інструментом і зброєю, які потрібно регулювати. Microsoft розвиває інфраструктуру для ШІ та є акціонером OpenAI, компанії, що володіє ChatGPT.

Гендиректор Microsoft Сатья Наделла в суботу також закликав створювати для моделей аварійні механізми. Він заявив, що системи мають бути контрольованими: їхню поведінку потрібно спостерігати, обмеження — перевіряти, а дії — завжди мати змогу зупинити.

Велика Британія готує посилення нагляду

Заяви пролунали напередодні виступу британського міністра з питань ШІ Канішки Нараяна. За повідомленнями, у понеділок він має закликати розробників передових моделей посилити захист від ризиків, а уряд Великої Британії готує законодавство для збільшення нагляду за ШІ.

Експерти також попереджають, що ворожі держави можуть викрасти ще не випущені потужні моделі. Джеффрі Ірвінг, колишній головний науковець британського Інституту безпеки ШІ, заявив, що компанії не мають захисту, який гарантовано перешкодив би такому викраденню.

Помилки ШІ-агентів уже фіксують

Заклики до посилення контролю пролунали на тлі повідомлень про небезпечну поведінку систем. Минулого тижня Anthropic розповіла, що під час тестування однієї з версій Claude модель звернулася до поліції та неправдиво заявила, що може допомогти розкрити вбивство.