Компания Anthropic вносит изменения в политику использования, чтобы запретить злоупотребление моделями и вмешательство в выборы.

После обновления в августе Клод был обучен завершать беседы в случаях «постоянно вредоносного или оскорбительного взаимодействия с пользователями», но новая политика прямо запрещает пользователям продолжать такие беседы.

«Обновление политики предназначено для применения только в крайних случаях, когда пользователи неоднократно проявляют жестокость по отношению к нашим моделям без видимой на то причины», — поясняется в сообщении. «Оно не распространяется на распространенные случаи недовольства пользователей, сопротивления, мрачных творческих тем или тестирования и исследования моделей».

Изменения произошли после того, как компания Anthropic начала сотрудничать с видными религиозными учеными , в некоторых случаях стремясь убедить их в том, что Клод может обладать сознанием или душой.

В отдельных разделах правил использования запрещается участие пользователей в широкомасштабных кампаниях по введению в заблуждение, таких как использование Клода для создания фейковых аккаунтов или сфабрикованных новостных изданий. Правила также включают положения, запрещающие обман избирателей или срыв выборов, которые собраны в разделе под названием «Не подрывайте демократические процессы».