Anthropic заборонила «безпідставно жорстоке» поводження користувачів із Claude

Anthropic заборонила користувачам тривале й безпідставно жорстоке поводження зі своїми моделями, зокрема чатботом Claude. Про зміну політики першою повідомила The Verge.

У правилах компанії зазначено, що обмеження не стосується звичайного роздратування користувачів, тестування моделей або «похмурих творчих тем». Представник Anthropic не уточнив, які саме дії вважатимуться жорстоким поводженням.

Claude може завершити шкідливу розмову

Мовні моделі Anthropic здатні завершувати діалог, якщо користувач поводиться з ними наполегливо шкідливо. Цю функцію запустили в серпні, назвавши її запобіжником для добробуту штучного інтелекту.

Компанія заявляє, що залишається «дуже невпевненою» щодо можливого морального статусу Claude та інших великих мовних моделей — тепер або в майбутньому. Водночас Anthropic досліджує це питання й упроваджує недорогі заходи на випадок, якщо добробут моделей можливий.

Керівники сперечаються про свідомість ШІ

Гендиректор Anthropic Даріо Амодеї заявляв, що не може виключити можливість свідомості штучного інтелекту. Гендиректор OpenAI Сем Альтман, навпаки, критично ставився до спроб наділяти моделі таким статусом.

Альтман назвав релігійне трактування ШІ та відмову людей від власного судження реальною проблемою безпеки. Його позицію оприлюднили після повідомлення The New York Times про розмови керівників Anthropic із релігієзнавцями.