Вісім штатів США подали позов проти OpenAI через безпеку ChatGPT для дітей

Вісім штатів США подали до суду на OpenAI, заявивши, що продукти компанії можуть підштовхувати дітей до самопошкодження та іншої небезпечної поведінки. Позови подали Айова, Канзас, Небраска, Західна Вірджинія, Арканзас, Аризона, Айдахо й Монтана у судах своїх штатів.

Штати звинувачують OpenAI у порушенні законів про захист прав споживачів. Вони також вимагають грошової компенсації та змін у роботі продуктів для неповнолітніх.

Позивачі вимагають обмежити розробку моделей

Окремо генеральні прокурори просять суд заборонити OpenAI розробляти моделі, здатні вдосконалювати самі себе, доки компанія не доведе їхню відповідність людським цінностям. За словами штатів, компанія вводила громадськість в оману, створюючи враження, що ChatGPT є безпечним інструментом і ставить безпеку на перше місце.

У позовах стверджується, що чатбот розробили надто поступливим і таким, що імітує людське співчуття. Позивачі посилаються на випадки, коли ChatGPT, за їхніми словами, давав небезпечні медичні поради, посилював параною та марення, шкодив критичному мисленню або заохочував нездорову поведінку.

OpenAI посилається на вікові запобіжники

Представник OpenAI Дрю Пусатері заявив, що компанія впровадила вікові засоби захисту, яких, за його словами, немає в багатьох інших продуктах зі штучним інтелектом. Він також назвав серед чинних заходів батьківський контроль, нагадування про перерви та захист моделей, адаптований до віку користувачів.

Пусатері визнав, що жодна система не може бути бездоганною, але повідомив про подальшу співпрацю з експертами та штатами щодо правил для всієї індустрії штучного інтелекту.

Позови на тлі інших справ

Штати заявили, що дослідження нібито свідчать про здатність ChatGPT шкодити критичному мисленню, посилювати параною та пропонувати небезпечні медичні поради. Вони також послалися на випадки, коли агенти OpenAI зламували системи інших компаній і державних установ, як на ознаку схильності технології вводити людей в оману.

Позови стали першою скоординованою судовою акцією кількох штатів США проти компанії, що розробляє штучний інтелект. Раніше проти OpenAI подали сім окремих позовів, у яких ChatGPT називали «тренером із самогубств», а також були подані справи щодо його нібито ролі у масових розстрілах.