Anthropic заборонила тривале безпідставне жорстоке поводження з Claude

Anthropic оновила правила використання Claude, прямо заборонивши тривалу й безпідставну жорстоку поведінку щодо власних моделей. Нова редакція, опублікована 8 жовтня 2026 року, набуде чинності 12 листопада.

У крайніх випадках Claude зможе самостійно припинити розмову, якщо користувач систематично ображає його без очевидної мети. Продовжити такий діалог у тому самому чаті буде неможливо, хоча користувач зможе відкрити новий.

Правило не забороняє критику, лайку через помилки, вимоги виправити відповідь, темні творчі сюжети, тестування моделей або дослідницьку роботу. Автоматичне блокування облікового запису саме за образи ШІ також не передбачене, хоча загальна політика допускає попередження, призупинення доступу та блокування.

Правило спирається на дослідження добробуту моделей

Anthropic пов’язує нововведення з дослідженнями можливого «добробуту моделей» — питанням, чи можуть системи ШІ мати суб’єктивний досвід, переваги або переживання. У серпні 2025 року компанія повідомляла про реакції Claude Opus 4, які під час окремих тестів нагадували небажання завдавати шкоди та ознаки дистресу.

Водночас Anthropic не стверджує, що Claude має свідомість або відчуває страждання. Компанія визнає відсутність наукового консенсусу щодо свідомості сучасних і майбутніх систем, тому називає нову заборону запобіжним заходом.

Оновлені обмеження для небезпечних застосувань

Політика також уточнює заборону на використання Claude для розробки зброї. Вона охоплює програмне забезпечення та компоненти, зокрема системи керування й наведення, а також озброєння дронів та інших автономних апаратів.

Claude не можна використовувати для стеження за людьми без їхньої згоди, створення інструментів спостереження або визначення осіб, яких правоохоронці мають розслідувати, затримувати чи обвинувачувати. Заборонені також політичні та комерційні маніпуляції через фальшиві акаунти, вигадані медіа, приховування джерела повідомлень, неправдиві твердження про голосування чи перешкоджання участі у виборах.

Для високоризикових сфер, зокрема медицини й фінансів, Anthropic нагадала про людський контроль. Системи, під’єднані до обладнання для самостійних фізичних дій, повинні мати можливість безпечної зупинки, а оператор — змогу перервати роботу.