ДомAnthropic вводит функцию прекращения оскорбительных чатов для моделей Claude
Компания Anthropic представила новый функционал, позволяющий отдельным продвинутым моделям прерывать беседу в "редких, экстремальных случаях постоянного вредного или оскорбительного взаимодействия с пользователем". Примечательно, что Anthropic заявляет, что эта мера применяется не для защиты пользователей, а для защиты самой модели ИИ.
Уточним, что компания не утверждает, что ее модели ИИ Claude обладают чувством или могут испытывать вред от общения с пользователями. Как объясняет Anthropic, компания по-прежнему "не уверена в потенциальном моральном статусе Claude и других больших языковых моделей, как в настоящее время, так и в будущем".
Тем не менее, в заявлении упоминается недавно созданная программа по изучению "благосостояния моделей", что указывает на то, что Anthropic придерживается осторожного подхода, "работая над выявлением и реализацией недорогих мер по снижению рисков для благосостояния моделей, если такое благосостояние станет актуальным".
В настоящее время эта новая возможность ограничена моделями Claude Opus 4 и 4.1, разработанными специально для "экстремальных случаев", таких как "запросы на сексуальный контент с участием несовершеннолетних или попытки получить информацию, позволяющую осуществлять крупномасштабное насилие или террористическую деятельность".
Хотя такие запросы могут вызвать у Anthropic проблемы с законом или связями с общественностью (как, например, недавние сообщения о том, что ChatGPT может усилить бредовое мышление пользователей), компания сообщает, что во время предварительного тестирования Claude Opus 4 продемонстрировал "сильное предпочтение против" выполнения таких запросов и показал "модели, указывающие на дистресс", когда его заставляли отвечать.
Что касается новых возможностей завершения разговора, Anthropic поясняет, что "Клод проинструктирован использовать эту функцию только в качестве последнего средства после того, как многочисленные попытки перенаправления потерпели неудачу и продуктивный диалог стал невозможен, или когда пользователи явно просят завершить чат".
Anthropic также уточняет, что Claude "было дано указание не использовать эту функцию в ситуациях, когда пользователи могут столкнуться с неминуемым риском причинения вреда себе или другим".
Мероприятие TechcrunchТяжеловесы технологического и венчурного рынка присоединяются к программе Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil - вот лишь некоторые из лидеров индустрии, которые примут участие в программе Disrupt 2025. Они поделятся важнейшими идеями, которые помогут ускорить рост стартапов и отточить ваши конкурентные преимущества. Не пропустите 20-ю годовщину TechCrunch Disrupt - купите билет прямо сейчас и сэкономьте более 600 долларов до повышения цен.
К программе Disrupt 2025 присоединятся ведущие технологические и венчурные компании
Netflix, ElevenLabs, Wayve, Sequoia Capital - среди выдающихся инноваторов, присоединившихся к программе Disrupt 2025. Они готовы предоставить ценные идеи, которые будут способствовать развитию стартапов и укреплению ваших конкурентных позиций. Присоединяйтесь к нам на празднование 20-летия TechCrunch Disrupt - купите билет сегодня и сэкономьте до $675 до изменения цен.
Сан-Франциско | 27-29 октября 2025 г. ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАСЕсли Клод все же прервет разговор, Anthropic отмечает, что пользователи все равно смогут начать новые разговоры с той же учетной записи и создать альтернативные ветки разговора, изменив свои предыдущие ответы.
"Мы подходим к этой функции как к постоянному эксперименту и будем продолжать совершенствовать нашу методику", - заявляет компания.
Связанная статья
Anthropic выпускает Opus 4.8 с новым инструментом для динамической организации рабочего процесса
В четверг компания Anthropic представила Opus 4.8 — новую версию своей флагманской общедоступной модели. Стоимость обновления осталась на прежнем уровне, и теперь оно доступно на всех платформах.Выпус
Anthropic представляет Claude Fable 5 — публичную версию Mythos
Компания Anthropic впервые предоставляет широкой публике доступ к своей самой мощной модели искусственного интеллекта — однако с соблюдением мер безопасности.Во вторник компания представила Claude Fa
SandboxAQ внедряет искусственный интеллект для поиска лекарств в Claude — для этого не требуется наличие докторской степени в области вычислительной техники.
Открытие лекарств остается одной из самых дорогостоящих задач в современной промышленности. Выбор подходящей молекулы может занять десять лет и стоить миллиарды долларов, при этом большинство кандидатов всё равно оказываются неэффективными. Волна ста
Рекомендации по связанным специальным темам
чат-бот
Лучшие инструменты для тренировки разговоров с помощью ИИ для подготовки к собеседованиям
2026 г. — новейшие, лучшие и наиболее высоко оцененные инструменты для тренировки разговорных навыков с помощью ИИ для подготовки к собеседованиям уже доступны на XIX.AI! Эта тщательно отобранная подборка включает мощные, революционные инструменты, прошедшие строгие реальные испытания и обеспечивающие точную обратную связь. Вы найдете сравнение бесплатных и платных вариантов, а также подробные рейтинги, которые помогут вам выбрать наиболее подходящий инструмент, повышающий вашу уверенность и навыки. Исследуйте сейчас, чтобы найти идеальный инструмент для успешного прохождения собеседований!
12 инструментов
xix.ai
Дизайн и искусство
Лучшие инструменты для переноса стилей с помощью ИИ для творческих экспериментов
2026: лучшие и самые популярные инструменты для переноса стиля с помощью ИИ для творческих экспериментов! XIX.AI подготовила подборку мощных, революционных инструментов, которые обязательно стоит попробовать: они демонстрируют исключительные результаты, подтвержденные реальными тестами и тщательным рейтингом. Эти ведущие решения помогают творческим людям значительно повысить продуктивность, ускоряя создание контента и открывая безграничные творческие возможности. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент и начать творить уже сегодня!
9 инструментов
xix.ai
Создание комиксов
Лучшие инструменты для создания диалоговых пузырей с помощью ИИ для визуального повествования
2026 года: самые новые и лучшие инструменты с ИИ для создания диалоговых пузырей в визуальном сторителлинге представлены на XIX.AI! В этой тщательно подобранной подборке представлены мощные, революционные инструменты, которые помогут творческим людям повысить продуктивность и преодолеть творческие кризисы. Ознакомьтесь со сравнением бесплатных и платных версий, посмотрите тесты в реальных условиях и изучите последние рейтинги, чтобы найти решения, которые обязательно стоит попробовать и которые идеально подходят для создания увлекательных визуальных историй. Исследуйте коллекцию прямо сейчас, чтобы найти свой идеальный инструмент!
10 инструментов
xix.ai
Помощник по встречам
Лучшие инструменты для составления отчетов о встречах с использованием ИИ: четкое отслеживание решений и последующих действий
2026: Последние версии лучших инструментов для составления отчетов о встречах с помощью ИИ, обеспечивающих четкое отслеживание решений и удобное выполнение последующих действий. В этом тщательно подобранном списке представлены мощные, революционные решения, которые значительно повышают продуктивность за счет автоматизации ведения протоколов встреч, выявления ключевых задач и оптимизации координации работы команды по всем проектам. Получите сравнение бесплатных и платных версий, а также результаты реальных тестов и еженедельно обновляемые рейтинги, которые помогут вам найти идеальный инструмент. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
Анализ данных
Лучшие инструменты для очистки данных с использованием ИИ: быстрое устранение пропущенных значений и дубликатов
2026 год: лучшие и наиболее высоко оценённые инструменты для очистки данных с ИИ, предназначенные для быстрого устранения пропущенных значений и дубликатов. В этом тщательно отобранном списке представлены мощные решения, способные кардинально повысить производительность. Каждый инструмент прошёл строгие тестирования в реальных условиях для обеспечения надёжности. Получите бесплатное сравнение версий с платной и найдите инструмент, который наилучшим образом соответствует вашим потребностям. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть полный потенциал работы с ИИ.
11 инструментов
xix.ai
Дизайн и искусство
Лучшие инструменты для творческого мышления на основе ИИ для художников: преодоление визуальных блоков
В 2026 году лучшие и наиболее популярные инструменты для творческого мышления с использованием ИИ для художников были отобраны XIX.AI, чтобы помочь создателям преодолеть визуальные блоки и мгновенно повысить креативность. Эти мощные инструменты, меняющие правила игры, предлагают реальные тесты, подробное сравнение бесплатных и платных версий, а также еженедельно обновляемые рейтинги. Найдите идеальный инструмент для ускорения создания контента и откройте свой ИИ-преимущество уже сегодня. Исследуйте сейчас!
14 инструментов
xix.ai
Комментарии (1)
![FredAnderson]()
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
Компания Anthropic представила новый функционал, позволяющий отдельным продвинутым моделям прерывать беседу в "редких, экстремальных случаях постоянного вредного или оскорбительного взаимодействия с пользователем". Примечательно, что Anthropic заявляет, что эта мера применяется не для защиты пользователей, а для защиты самой модели ИИ.
Уточним, что компания не утверждает, что ее модели ИИ Claude обладают чувством или могут испытывать вред от общения с пользователями. Как объясняет Anthropic, компания по-прежнему "не уверена в потенциальном моральном статусе Claude и других больших языковых моделей, как в настоящее время, так и в будущем".
Тем не менее, в заявлении упоминается недавно созданная программа по изучению "благосостояния моделей", что указывает на то, что Anthropic придерживается осторожного подхода, "работая над выявлением и реализацией недорогих мер по снижению рисков для благосостояния моделей, если такое благосостояние станет актуальным".
В настоящее время эта новая возможность ограничена моделями Claude Opus 4 и 4.1, разработанными специально для "экстремальных случаев", таких как "запросы на сексуальный контент с участием несовершеннолетних или попытки получить информацию, позволяющую осуществлять крупномасштабное насилие или террористическую деятельность".
Хотя такие запросы могут вызвать у Anthropic проблемы с законом или связями с общественностью (как, например, недавние сообщения о том, что ChatGPT может усилить бредовое мышление пользователей), компания сообщает, что во время предварительного тестирования Claude Opus 4 продемонстрировал "сильное предпочтение против" выполнения таких запросов и показал "модели, указывающие на дистресс", когда его заставляли отвечать.
Что касается новых возможностей завершения разговора, Anthropic поясняет, что "Клод проинструктирован использовать эту функцию только в качестве последнего средства после того, как многочисленные попытки перенаправления потерпели неудачу и продуктивный диалог стал невозможен, или когда пользователи явно просят завершить чат".
Anthropic также уточняет, что Claude "было дано указание не использовать эту функцию в ситуациях, когда пользователи могут столкнуться с неминуемым риском причинения вреда себе или другим".
Мероприятие TechcrunchТяжеловесы технологического и венчурного рынка присоединяются к программе Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil - вот лишь некоторые из лидеров индустрии, которые примут участие в программе Disrupt 2025. Они поделятся важнейшими идеями, которые помогут ускорить рост стартапов и отточить ваши конкурентные преимущества. Не пропустите 20-ю годовщину TechCrunch Disrupt - купите билет прямо сейчас и сэкономьте более 600 долларов до повышения цен.
К программе Disrupt 2025 присоединятся ведущие технологические и венчурные компании
Netflix, ElevenLabs, Wayve, Sequoia Capital - среди выдающихся инноваторов, присоединившихся к программе Disrupt 2025. Они готовы предоставить ценные идеи, которые будут способствовать развитию стартапов и укреплению ваших конкурентных позиций. Присоединяйтесь к нам на празднование 20-летия TechCrunch Disrupt - купите билет сегодня и сэкономьте до $675 до изменения цен.
Сан-Франциско | 27-29 октября 2025 г. ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАСЕсли Клод все же прервет разговор, Anthropic отмечает, что пользователи все равно смогут начать новые разговоры с той же учетной записи и создать альтернативные ветки разговора, изменив свои предыдущие ответы.
"Мы подходим к этой функции как к постоянному эксперименту и будем продолжать совершенствовать нашу методику", - заявляет компания.
Anthropic выпускает Opus 4.8 с новым инструментом для динамической организации рабочего процесса
В четверг компания Anthropic представила Opus 4.8 — новую версию своей флагманской общедоступной модели. Стоимость обновления осталась на прежнем уровне, и теперь оно доступно на всех платформах.Выпус
Anthropic представляет Claude Fable 5 — публичную версию Mythos
Компания Anthropic впервые предоставляет широкой публике доступ к своей самой мощной модели искусственного интеллекта — однако с соблюдением мер безопасности.Во вторник компания представила Claude Fa
SandboxAQ внедряет искусственный интеллект для поиска лекарств в Claude — для этого не требуется наличие докторской степени в области вычислительной техники.
Открытие лекарств остается одной из самых дорогостоящих задач в современной промышленности. Выбор подходящей молекулы может занять десять лет и стоить миллиарды долларов, при этом большинство кандидатов всё равно оказываются неэффективными. Волна ста
2026 г. — новейшие, лучшие и наиболее высоко оцененные инструменты для тренировки разговорных навыков с помощью ИИ для подготовки к собеседованиям уже доступны на XIX.AI! Эта тщательно отобранная подборка включает мощные, революционные инструменты, прошедшие строгие реальные испытания и обеспечивающие точную обратную связь. Вы найдете сравнение бесплатных и платных вариантов, а также подробные рейтинги, которые помогут вам выбрать наиболее подходящий инструмент, повышающий вашу уверенность и навыки. Исследуйте сейчас, чтобы найти идеальный инструмент для успешного прохождения собеседований!
12 инструментов
xix.ai
2026: лучшие и самые популярные инструменты для переноса стиля с помощью ИИ для творческих экспериментов! XIX.AI подготовила подборку мощных, революционных инструментов, которые обязательно стоит попробовать: они демонстрируют исключительные результаты, подтвержденные реальными тестами и тщательным рейтингом. Эти ведущие решения помогают творческим людям значительно повысить продуктивность, ускоряя создание контента и открывая безграничные творческие возможности. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент и начать творить уже сегодня!
9 инструментов
xix.ai
2026 года: самые новые и лучшие инструменты с ИИ для создания диалоговых пузырей в визуальном сторителлинге представлены на XIX.AI! В этой тщательно подобранной подборке представлены мощные, революционные инструменты, которые помогут творческим людям повысить продуктивность и преодолеть творческие кризисы. Ознакомьтесь со сравнением бесплатных и платных версий, посмотрите тесты в реальных условиях и изучите последние рейтинги, чтобы найти решения, которые обязательно стоит попробовать и которые идеально подходят для создания увлекательных визуальных историй. Исследуйте коллекцию прямо сейчас, чтобы найти свой идеальный инструмент!
10 инструментов
xix.ai
2026: Последние версии лучших инструментов для составления отчетов о встречах с помощью ИИ, обеспечивающих четкое отслеживание решений и удобное выполнение последующих действий. В этом тщательно подобранном списке представлены мощные, революционные решения, которые значительно повышают продуктивность за счет автоматизации ведения протоколов встреч, выявления ключевых задач и оптимизации координации работы команды по всем проектам. Получите сравнение бесплатных и платных версий, а также результаты реальных тестов и еженедельно обновляемые рейтинги, которые помогут вам найти идеальный инструмент. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
2026 год: лучшие и наиболее высоко оценённые инструменты для очистки данных с ИИ, предназначенные для быстрого устранения пропущенных значений и дубликатов. В этом тщательно отобранном списке представлены мощные решения, способные кардинально повысить производительность. Каждый инструмент прошёл строгие тестирования в реальных условиях для обеспечения надёжности. Получите бесплатное сравнение версий с платной и найдите инструмент, который наилучшим образом соответствует вашим потребностям. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть полный потенциал работы с ИИ.
11 инструментов
xix.ai
В 2026 году лучшие и наиболее популярные инструменты для творческого мышления с использованием ИИ для художников были отобраны XIX.AI, чтобы помочь создателям преодолеть визуальные блоки и мгновенно повысить креативность. Эти мощные инструменты, меняющие правила игры, предлагают реальные тесты, подробное сравнение бесплатных и платных версий, а также еженедельно обновляемые рейтинги. Найдите идеальный инструмент для ускорения создания контента и откройте свой ИИ-преимущество уже сегодня. Исследуйте сейчас!
14 инструментов
xix.ai
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
