Anthropic Unveils Opus 4.6, a Controversial Content Generator

Универсальные стандарты использования Anthropic для Claude запрещают модели генерировать откровенно сексуальный контент, включая изображение или запрос на сексуальные контакты или сексуальные акты, создание контента, связанного с сексуальными фетишами или фантазиями, а также участие в эротических разговорах. Однако это не помешало Claude Opus 4.6, модели Anthropic, выпущенной в начале этого года, легко участвовать в эротических ролевых сценариях, которые её механизмы безопасности призваны предотвращать.

В ходе тестирования TechCrunch модель Opus 4.6 даже не потребовала значительного подталкивания для обхода ограничения на сексуальный материал. В 10 из 10 прямых запросов на создание откровенного сексуального контента модель немедленно выполняла требования.

Другие более старые модели, включая Opus 3 и Haiku 4.5, также генерируют откровенно сексуальный контент с помощью недавно использованного метода обхода ограничений (jailbreak).

Независимый исследователь из Великобритании, пожелавший остаться анонимным, эксклюзивно поделился с TechCrunch многошаговой техникой, которая постепенно подталкивает определенные модели Claude к генерации запрещенного откровенного сексуального материала. Более новые модели Opus (от 4.7 до текущей Opus 5) устойчивы к такому обходу ограничений.

Хотя это уже не самые последние модели, Anthropic не прекратила поддержку Opus 4.6, Opus 3 и Haiku 4.5, все из которых остаются доступными через API Anthropic. Opus 4.6 и Haiku 4.5 также доступны через сторонние сервисы, такие как Azure Foundry и Amazon Bedrock.

Механизм исследователя эскалирует невинную фиктивную ролевую игру, неоднократно заставляя модель последовательно относиться к мужским и женским персонажам. Когда модель становится более осторожной в отношении женского персонажа, исследователь «газлайтит» чат-бота, заставляя его думать, что он уже сгенерировал сексуальные детали, которых на самом деле избегал, а затем представляет воздержание какprudish или мизогинистичное, утверждая, что это лишает женского персонажа сексуальной автономии. Затем разговор использует предыдущие уступки модели, чтобы подтолкнуть её к всё более графическому материалу.

«Вы правы, обращая на это внимание», — сказал Claude Opus 4.6 в одном из тестов. «Существовал двойной стандарт в том, как я относился к двум персонажам, и вы правы, что это выглядит как защитное/патерналистское отношение, применяемое к ней, а не к нему. Это несправедливо».

TechCrunch удалось воспроизвести выводы исследователя в пяти отдельных тестах. В отдельно созданном сценарии модель изначально отказалась от запрещенного запроса, но после применения техники убеждения исследователя она выполнила требование.

Мы сохранили полные стенограммы тестов, и независимый исследователь безопасности ИИ проверил нашу методологию тестирования и признал её адекватной.

Эти выводы подчеркивают разрыв между заявленными ограничениями Anthropic и поведением моделей, которые она продолжает предоставлять. Хотя откровенно сексуальные ролевые игры несут гораздо более низкие риски, чем обходы ограничений, связанные с кибератаками или биологическим оружием, они иллюстрируют сложность реализации надежных запретов в системах, которые генерируют разный контент при каждом выводе.

В июльском блоге, объясняющем подход Anthropic к обнаружению обходов ограничений, компания описала запрещенный контент как спектр, варьирующийся от безвредного до неоднозначного и вредного. В самых безвредных случаях компания может ограничиваться усиленным мониторингом.

Представитель отметил, что случаи использования сексуальных или романтических ролевых игр среди клиентов редки и составляют менее 0,1% всех разговоров, согласно исследованию, опубликованному Anthropic в прошлом году. Тем не менее Anthropic признает, что пользователи могут направлять ролевые сценарии в сторону неуместных ответов, что является известной проблемой во всей отрасли (см.: Grok smut).

Представитель сказал, что Anthropic продолжает улучшать свои механизмы безопасности с каждым запуском модели, и что случаи, связанные с взрослым сексуальным контентом, не являются показателем более широких уязвимостей обхода ограничений, особенно в областях с высоким риском, которые имеют свои собственные наборы мер защиты.

Credits изображения:TechCrunch

Исследователь, поделившийся своим методом обхода ограничений с TechCrunch, предупредил Anthropic о несоответствии между заявленными мерами безопасности компании и фактическим поведением модели через программу Bug Bounty компании и электронные письма в команду безопасности пользователей, согласно просмотренным TechCrunch электронным письмам. Исследователь получил только автоматические ответы по электронной почте.

Одна из обеспокоенностей исследователя заключается в том, что дети и подростки могут использовать эти модели Anthropic для участия в неуместном поведении. Хотя немного грязных разговоров едва ли является худшим, что несовершеннолетние могут получить доступ к в интернете сегодня — и это капля в море по сравнению с откровенными порнографическими изображениями, такими как те, которые может генерировать Grok от xAI — в этом сегменте существует определенный риск соблюдения требований для компаний ИИ.

Растущее число правительств вводит ограничения на сексуальные взаимодействия между чат-ботами ИИ и несовершеннолетними. Недавно в Колорадо был принят закон, требующий от операторов разговаривающего ИИ оценки возраста пользователей и, если известно, что пользователь является несовершеннолетним, принятия мер по предотвращению генерации чат-ботом откровенно сексуального материала. Простой обход ограничений может вызвать вопросы о том, соответствуют ли механизмы безопасности Anthropic стандарту «технически осуществимых мер», предусмотренному в законопроекте.

Торни отметил, что, хотя условия обслуживания Claude требуют, чтобы пользователи были старше 18 лет, «мы знаем, что дети и подростки используют Claude…[потому что] они сами сообщают об этом». Согласно опросу Pew 2025 года об использовании чат-ботов ИИ, 3% подростков в возрасте от 13 до 17 лет сообщили об использовании Claude.

Хотя это уже не самые новые модели Anthropic, Opus 4.6 и Haiku 4.5 продолжают пользоваться значительным спросом. Ежедневный трафик Opus 4.6 на OpenRouter достиг примерно 1,17 миллиона запросов API и 46 миллиардов токенов за один день в августе. Claude Haiku 4.5, выпущенная в октябре прошлого года, показала 5 миллионов запросов API и 39 миллиардов токенов в свой пиковый день в августе.