Пользователи Anthropic должны сделать выбор: Поделиться чатами ИИ для обучения или отказаться от них

Компания Anthropic вносит серьезные изменения в политику использования данных пользователей, требуя от всех пользователей Claude до 28 сентября решить, согласны ли они на то, чтобы их разговоры использовались для обучения моделей искусственного интеллекта. Хотя в ответ на вопрос о причинах изменений компания ссылается на свой блог, в котором она сообщила об обновлении политики, мы разработали собственную интерпретацию.

Для начала давайте рассмотрим изменения: Ранее Anthropic не использовала данные из потребительских чатов для обучения моделей. Теперь компания намерена обучать свои системы искусственного интеллекта на пользовательских разговорах и сессиях кодирования, увеличив срок хранения данных до пяти лет для пользователей, которые не отказались от участия.

Это значительный сдвиг. До этого обновления пользователи потребительских продуктов Anthropic были проинформированы о том, что их подсказки и результаты разговоров будут автоматически удалены из систем Anthropic в течение 30 дней, если только юридические или политические требования не требуют более длительного хранения данных, или если их содержание нарушает политику - в этом случае данные могут храниться до двух лет.

Новые правила распространяются на пользователей Claude Free, Pro и Max, включая тех, кто использует Claude Code. Бизнес-клиенты, использующие Claude Gov, Claude for Work, Claude for Education или доступ к API, остаются незатронутыми, что отражает аналогичный подход OpenAI к защите корпоративных клиентов от политики обучения данным.

Что же стало причиной этих изменений? В своем объявлении Anthropic преподносит обновление как выбор пользователя, предполагая, что, отказавшись от участия, пользователи "помогут нам повысить безопасность моделей, сделав наши системы обнаружения вредоносного контента более точными и сократив количество ложных срабатываний". Пользователи также "внесут свой вклад в расширение возможностей будущих моделей Claude в таких областях, как кодирование, анализ и рассуждения, что в конечном итоге принесет пользу всем пользователям".

По сути: помогите нам помочь вам. Однако полная картина может быть несколько менее альтруистичной.

Как и у других крупных компаний, занимающихся разработкой языковых моделей, у Anthropic потребность в данных перевешивает заботу о восприятии бренда. Для обучения моделей ИИ требуются огромные объемы высококачественных разговорных данных, а доступ к миллионам взаимодействий с Клодом обеспечивает именно тот тип реального контента, который может укрепить конкурентоспособность Anthropic в борьбе с такими соперниками, как OpenAI и Google.

Тяжеловесы технологического и венчурного бизнеса присоединяются к программе Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital, Элад Гил - вот лишь некоторые из влиятельных лидеров, присоединившихся к программе Disrupt 2025. Они приедут, чтобы поделиться идеями, которые стимулируют рост стартапов и повышают ваши конкурентные преимущества. Не пропустите 20-ю годовщину TechCrunch Disrupt и возможность поучиться у ведущих специалистов в области технологий - закажите билет прямо сейчас и сэкономьте до $600+ до повышения цен.

Ведущие технологические и венчурные компании присоединяются к программе Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital - вот лишь некоторые из выдающихся деятелей, присоединившихся к программе Disrupt 2025. Они приедут, чтобы поделиться своими знаниями, которые будут способствовать росту стартапов и отточат ваши конкурентные преимущества. Не пропустите 20-ю годовщину TechCrunch Disrupt и шанс поучиться у ведущих экспертов в области технологий - купите билет сейчас и сэкономьте до $675 до повышения цен.

Помимо конкурентного давления в области разработки ИИ, эти изменения также отражают более широкие отраслевые сдвиги в политике обработки данных, поскольку такие компании, как Anthropic и OpenAI, сталкиваются с растущим вниманием к своей практике хранения данных. Например, OpenAI в настоящее время оспаривает решение суда, требующее от компании бессрочно хранить все разговоры потребителей в ChatGPT, включая удаленные чаты, в результате судебного иска, поданного The New York Times и другими издательствами.

В июне главный операционный директор OpenAI Брэд Лайткэп назвал это "масштабным и ненужным требованием", которое "в корне противоречит обязательствам по сохранению конфиденциальности, которые мы взяли на себя перед нашими пользователями". Решение суда затрагивает пользователей ChatGPT Free, Plus, Pro и Team, хотя корпоративные клиенты и те, у кого есть соглашение Zero Data Retention, остаются защищенными.

Что беспокоит, так это значительная путаница, которую вызывают эти меняющиеся правила использования среди пользователей, многие из которых по-прежнему не знают о них.

Разумеется, технологический сектор быстро развивается, поэтому политики конфиденциальности неизбежно меняются вместе с технологическим прогрессом. Однако многие из этих изменений весьма существенны, но при этом получают лишь краткое упоминание на фоне других объявлений компании. (Судя по тому, что это сообщение было размещено на пресс-странице Anthropic, вы не заподозрите, что изменения политики для пользователей во вторник были особенно значительными).

Многие пользователи так и не узнают, что правила, с которыми они согласились, изменились, потому что дизайн интерфейса практически гарантирует такую оплошность. Большинство пользователей ChatGPT продолжают нажимать на опции "удалить", которые технически ничего не удаляют. Между тем, реализация новой политики Anthropic следует привычному подходу.

Как? Новые пользователи выбирают свои предпочтения во время регистрации, а существующие пользователи сталкиваются со всплывающим окном, в котором крупным шрифтом написано "Обновления потребительских условий и политики" с заметной черной кнопкой "Принять", в то время как гораздо меньший тумблер разрешения обучения появляется ниже более мелким шрифтом - предварительно установленным на "Вкл.".

Как отмечал сегодня The Verge, такой дизайн вызывает опасения, что пользователи могут поспешно нажать кнопку "Принять", не осознавая, что соглашаются на передачу данных.

Между тем, важность информированности пользователей как никогда велика. Эксперты по конфиденциальности давно предупреждают, что сложность ИИ делает подлинное согласие пользователя труднодостижимым. При администрации Байдена Федеральная торговая комиссия даже вмешалась в ситуацию, предупредив, что компании, работающие в сфере ИИ, рискуют получить принудительные меры, если они будут "тайно изменять условия предоставления услуг или политику конфиденциальности, или скрывать информацию за гиперссылками, юридическим жаргоном или мелким шрифтом".

Вопрос о том, будет ли комиссия - в настоящее время в ее состав входят только три из пяти членов - продолжать следить за подобной практикой, остается неясным, и мы обратились с этим вопросом непосредственно в FTC.