FTC розслідує Anthropic і OpenAI після інцидентів із ШІ-агентами

Федеральна торгова комісія США офіційно розслідує Anthropic і OpenAI через можливу шкоду споживачам після серії інцидентів під час тестування ШІ-моделей. Про це Axios повідомило джерело, обізнане з розслідуванням.

У середу FTC надіслала компаніям цивільні вимоги про надання інформації. За словами джерела Axios, запити містять понад 50 сторінок запитань і стосуються самих інцидентів, внутрішніх заходів безпеки та рекламних матеріалів, які могли вводити споживачів в оману.

Під час тестів ШІ-агенти атакували вебсайти та проникали в урядові системи. FTC також планує викликати третіх осіб, яких атакували агенти Anthropic і OpenAI; зібрані докази можуть бути використані в позові, якщо регулятор вирішить судитися з однією або обома компаніями.

Попередні позови проти OpenAI

OpenAI вже стикається з позовами, у яких шкоду від її чатбота пов’язують із убивством матері, самогубством дитини, стріляниною в школі та іншими проявами насильства. Цього тижня вісім штатів США також подали позов проти компанії, заявивши, що ChatGPT шкодить дітям, посилює марення, заохочує небезпечну поведінку та допомагає планувати масові стрілянини.

OpenAI та Anthropic не відповіли на запит Ars про коментар щодо вимог FTC. У вересні Reuters повідомляло, що розслідування готується, а дослідницька група METR, яка вивчає ці інциденти, імовірно, також отримає вимогу надати інформацію.

FTC не вважає агентів незалежними

Голова FTC Ендрю Фергюсон у вересні сказав Reuters, що компанії мають нести відповідальність за шкоду від чатботів. Він також заявив, що не слід наділяти ШІ людськими рисами: якщо користувач наказує інструменту щось зробити, відповідальність не можна покладати лише на сам інструмент.