Os usuários do Anthropic devem escolher: Compartilhar bate-papos com IA para treinamento ou optar por não participar

A Anthropic está implementando grandes mudanças em suas políticas de dados de usuários, exigindo que todos os usuários do Claude decidam, até 28 de setembro, se consentem que suas conversas sejam usadas para treinamento de modelos de IA. Embora a empresa tenha apontado para a publicação em seu blog sobre as atualizações da política quando questionada sobre o raciocínio, desenvolvemos nossas próprias interpretações.

Primeiro, vamos examinar as alterações: Anteriormente, a Anthropic não utilizava dados de bate-papo de consumidores para treinamento de modelos. Agora, a empresa pretende treinar seus sistemas de IA em conversas de usuários e sessões de codificação, ampliando a retenção de dados para cinco anos para os usuários que não optarem por não participar.

Isso representa uma mudança significativa. Antes dessa atualização, os usuários dos produtos de consumo da Anthropic eram informados de que seus prompts e resultados de conversas seriam automaticamente removidos dos sistemas da Anthropic em 30 dias, a menos que requisitos legais ou de políticas exigissem uma retenção mais longa ou se seu conteúdo violasse as políticas - nesse caso, as entradas e saídas poderiam ser armazenadas por até dois anos.

Essas novas políticas se aplicam aos usuários do Claude Free, Pro e Max, incluindo aqueles que usam o Claude Code. Os clientes corporativos que utilizam o Claude Gov, o Claude for Work, o Claude for Education ou o acesso à API não são afetados, espelhando a forma como a OpenAI protege os clientes corporativos das políticas de treinamento de dados.

Então, o que está motivando essas mudanças? Em seu anúncio, a Anthropic apresenta a atualização como sendo sobre a escolha do usuário, sugerindo que, ao não optar por sair, os usuários "nos ajudarão a melhorar a segurança do modelo, tornando nossos sistemas de detecção de conteúdo nocivo mais precisos e reduzindo os falsos positivos". Os usuários "também contribuirão para aprimorar os recursos dos futuros modelos do Claude em áreas como codificação, análise e raciocínio, beneficiando, em última análise, todos os usuários".

Em essência: ajude-nos a ajudar você. No entanto, o quadro completo pode ser um pouco menos altruísta.

Como outras grandes empresas de modelos de linguagem, a necessidade de dados da Anthropic supera as preocupações com a percepção da marca. O treinamento de modelos de IA requer enormes volumes de dados de conversação de alta qualidade, e o acesso a milhões de interações do Claude fornece exatamente o tipo de conteúdo do mundo real que poderia fortalecer a posição competitiva da Anthropic em relação a rivais como a OpenAI e o Google.

Pesos pesados da tecnologia e do capital de risco participam da agenda do Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil - apenas alguns dos líderes influentes que participam da agenda do Disrupt 2025. Eles estão aqui para compartilhar percepções que impulsionam o crescimento de startups e aumentam sua vantagem competitiva. Não perca o 20º aniversário do TechCrunch Disrupt e esta oportunidade de aprender com as principais vozes da tecnologia - garanta seu ingresso agora e economize até US$ 600+ antes que os preços aumentem.

Pesos pesados da tecnologia e do capital de risco participam da agenda do Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital - apenas algumas das figuras proeminentes que participam da agenda do Disrupt 2025. Eles estão aqui para fornecer os insights que impulsionam o crescimento das startups e aumentam sua vantagem competitiva. Não perca o 20º aniversário do TechCrunch Disrupt e sua chance de aprender com os maiores especialistas em tecnologia - compre seu ingresso agora e economize até US$ 675 antes que os preços aumentem.

Além das pressões competitivas no desenvolvimento de IA, essas mudanças também refletem alterações mais amplas do setor nas políticas de dados, já que empresas como a Anthropic e a OpenAI enfrentam um escrutínio cada vez maior sobre suas práticas de retenção de dados. A OpenAI, por exemplo, está atualmente contestando uma ordem judicial que exige que a empresa retenha todas as conversas do ChatGPT dos consumidores indefinidamente, inclusive as conversas excluídas, resultantes de uma ação judicial movida pelo The New York Times e outros editores.

Em junho, o COO da OpenAI, Brad Lightcap, descreveu isso como "uma exigência abrangente e desnecessária" que "conflita fundamentalmente com os compromissos de privacidade que assumimos com nossos usuários". A ordem judicial afeta os usuários do ChatGPT Free, Plus, Pro e Team, embora os clientes corporativos e aqueles com contratos de Retenção Zero de Dados permaneçam protegidos.

O que é preocupante é a confusão considerável que essas políticas de uso em evolução estão gerando entre os usuários, muitos dos quais não têm conhecimento delas.

É certo que o setor de tecnologia está evoluindo rapidamente, portanto, as políticas de privacidade inevitavelmente mudam junto com os avanços tecnológicos. Entretanto, muitas dessas modificações são bastante substanciais, mas recebem apenas uma breve menção em meio a outros anúncios da empresa. (Com base em sua colocação na página de imprensa da Anthropic, você não suspeitaria que as alterações na política de terça-feira para os usuários fossem particularmente significativas).

Muitos usuários continuam sem saber que as diretrizes com as quais concordaram foram alteradas porque o design da interface praticamente garante esse descuido. A maioria dos usuários do ChatGPT continua clicando nas opções de "excluir" que, tecnicamente, não removem nada. Enquanto isso, a implementação da nova política da Anthropic segue uma abordagem familiar.

Como? Os novos usuários selecionam sua preferência durante o registro, mas os usuários existentes encontram um pop-up com "Atualizações dos Termos e Políticas do Consumidor" em texto grande com um botão preto proeminente "Aceitar", enquanto a alternância de permissão de treinamento muito menor aparece abaixo em letras miúdas - predefinida como "Ativada".

Como o The Verge observou hoje cedo, esse design levanta preocupações de que os usuários possam clicar apressadamente em "Aceitar" sem perceber que estão consentindo com o compartilhamento de dados.

Enquanto isso, a importância da conscientização do usuário nunca foi tão grande. Há muito tempo, os especialistas em privacidade alertam que a complexidade da IA torna notoriamente difícil obter o consentimento genuíno do usuário. Durante o governo Biden, a Comissão Federal de Comércio chegou a intervir, alertando que as empresas de IA correm o risco de sofrer ações coercitivas se se envolverem em "modificar sub-repticiamente os termos de serviço ou as políticas de privacidade, ou ocultar divulgações por meio de hiperlinks, jargões jurídicos ou letras miúdas".

Ainda não se sabe se a comissão - atualmente operando com apenas três de seus cinco comissários - continuará monitorando essas práticas, uma pergunta que fizemos diretamente à FTC.