Anthropic заборонила «жорстоке» поводження з чатботами Claude

Anthropic оновила політику користування Claude, додавши до забороненої поведінки тривале й безпідставне жорстоке поводження з AI-системами. У крайніх випадках інструменти компанії зможуть припиняти такі взаємодії, як це, за словами Anthropic, уже траплялося рідко.

Нове правило стосується повторюваних зловживань і не поширюється на звичайне роздратування користувачів, заперечення, тестування моделей, дослідження чи темні творчі сюжети. Водночас компанія не уточнила, які саме дії вважатиме жорстокими або образливими.

Жорстокість додали до переліку заборон

Оновлений перелік також забороняє цькування людей, заохочення до самоушкодження та створення інтимних зображень без згоди. Політику переглянули в межах щорічної оцінки; зміни охопили й інші ризики, зокрема заборону використовувати Claude для оманливих кампаній або введення виборців в оману.

Anthropic окремо зазначила, що попередня політика вже забороняла застосовувати її інструменти для розробки зброї. Однак найбільшу увагу привернула саме заборона зловживати чатботами.

Дискусія про антропоморфізацію AI

Оновлення спричинило суперечки про те, чи доречно бути ввічливим із генеративними системами. Технологічний партнер ірландської юридичної фірми William Fry Баррі Сканнелл заявив, що не можна бути жорстоким до «чисел і математики», а антропоморфізація AI є шкідливою.

Частина експертів вважає слова «будь ласка» і «дякую» зайвими та такими, що витрачають токени. Інші припускають, що ввічливість може покращувати якість відповідей. Microsoft AI-директор Мустафа Сулейман, який раніше критикував Anthropic за подання AI як людини, відреагував на оновлення емодзі обличчя, що тане.