' style='fill:%23c4c4c4;fill-opacity:1'%3E%3Cpath d='M93.28-57.4h2.52l-6.33 11.74h-2.6l6.41-11.75zM98.5-57.4h2.52L94.7-45.67h-2.6l6.4-11.75zM103.78-57.4h2.52l-6.33 11.74h-2.6l6.4-11.75z'/%3E%3C/a%3E%3C/svg%3E)
Anthropic запретила оскорблять и жестоко обращаться с Claude
В правила добавили «запрет на длительное и необоснованное оскорбительное или жестокое отношение» к ИИ-моделям, говорится в заявлении компании.
Это правило касается только крайних случаев, когда пользователи неоднократно проявляют жестокость к моделям без какой-либо видимой цели, отмечают в компании. На обычные проявления раздражения, возражения, «мрачные творческие темы» это не распространяется.
В Anthropic отметили, что это правило перекликается с введенным ранее, которое позволяет моделям Claude завершать разговоры с постоянно проявляющими агрессию пользователями. При этом в компании не уточнили, будут ли за такое поведение блокировать пользователей.
Anthropic также запретила использовать Claude для вмешательства в выборы, ввела запрет на слежку за людьми и разработку оружия, пишет The Verge.
Новые правила начнут действовать 12 ноября.
