OpenAI reterá dados do ChatGPT por ordem judicial, CEO Altman propõe 'privilégio de IA'

Muitos usuários regulares do ChatGPT, incluindo o autor deste artigo, podem ter interagido com o recurso de "bate-papo temporário". Essa opção, oferecida pelo popular chatbot da OpenAI, foi projetada para limpar automaticamente todas as informações trocadas durante uma sessão assim que ela for encerrada.

Além disso, os usuários podem excluir manualmente as conversas anteriores do ChatGPT da barra lateral nos aplicativos da Web, de desktop e móveis. Para isso, basta clicar com o botão esquerdo do mouse, clicar com o botão de controle ou pressionar longamente o bate-papo desejado.

Esta semana, no entanto, a OpenAI enfrentou críticas dos usuários depois que foi revelado que a empresa não estava excluindo esses registros de bate-papo como os usuários foram levados a acreditar.

"Você está me dizendo que meus bate-papos excluídos do ChatGPT na verdade não foram excluídos e estão sendo salvos para serem investigados por um juiz?", postou o usuário do X @ns123abc, um comentário que recebeu mais de um milhão de visualizações.

Outro usuário, @kepano, acrescentou: "você pode 'excluir' um chat do ChatGPT, mas todos os chats devem ser mantidos devido a obrigações legais?

Como observou o especialista em IA e engenheiro de software Simon Willison em seu blog: "Os clientes pagantes das APIs [da OpenAI] podem muito bem tomar a decisão de mudar para outros provedores que possam oferecer políticas de retenção que não sejam subvertidas por essa ordem judicial!"

A OpenAI confirmou que, desde meados de maio de 2025, tem preservado chats de usuários excluídos e temporários em conformidade com uma ordem judicial federal. A empresa não informou aos usuários sobre essa retenção até 5 de junho.

A ordem, emitida em 13 de maio de 2025, pela juíza magistrada dos EUA Ona T. Wang, instrui a OpenAI a "preservar e segregar todos os dados de registro de saída que, de outra forma, seriam excluídos em uma base futura". Isso inclui bate-papos que os usuários solicitaram a exclusão ou que foram apagados automaticamente por questões de privacidade.

Essa diretriz tem origem no caso The New York Times (NYT) v. OpenAI e Microsoft, um processo de direitos autorais em andamento há mais de um ano e meio. Os advogados do NYT alegam que os modelos de linguagem da OpenAI podem reproduzir literalmente o conteúdo de notícias protegido por direitos autorais. Eles argumentam que os registros, inclusive os excluídos pelos usuários, podem conter evidências relevantes de resultados infratores.

Embora a OpenAI tenha cumprido a ordem imediatamente, ela esperou mais de três semanas para notificar publicamente os usuários afetados. Posteriormente, a empresa publicou uma postagem no blog e perguntas frequentes detalhando o mandato legal e quais usuários foram afetados.

A OpenAI atribui a responsabilidade por essa ação ao NYT e à ordem do juiz, afirmando que acredita que a exigência de preservação é "infundada".

A OpenAI esclarece a ordem judicial para preservar os registros de usuários do ChatGPT e detalha quais chats foram afetados

Em um post recente no blog, o COO da OpenAI, Brad Lightcap, defendeu a posição da empresa, afirmando que ela está defendendo a privacidade do usuário contra o que considera uma ordem judicial excessivamente ampla. Ele escreveu:

"O New York Times e outros demandantes fizeram uma exigência abrangente e desnecessária em seu processo sem fundamento contra nós: reter os dados dos clientes do ChatGPT e da API indefinidamente. Isso conflita fundamentalmente com os compromissos de privacidade que assumimos com nossos usuários."

A publicação esclareceu que os usuários do ChatGPT Free, Plus, Pro e Team, juntamente com os clientes da API sem um contrato de retenção zero de dados (ZDR), estão sujeitos à ordem de preservação. Para esses usuários, até mesmo os chats excluídos ou os de sessões de chat temporárias serão armazenados em um futuro próximo.

No entanto, os assinantes dos planos ChatGPT Enterprise e Edu, bem como os clientes de API que usam pontos de extremidade ZDR, não são afetados. Seus chats continuarão a ser excluídos conforme as instruções.

Os dados retidos são mantidos sob retenção legal, o que significa que são armazenados em um sistema seguro e separado, acessível apenas a um número limitado de funcionários da área jurídica e de segurança.

"Esses dados não são compartilhados automaticamente com o The New York Times ou qualquer outra pessoa", enfatizou Lightcap.

Sam Altman propõe 'privilégio de IA' para conversas confidenciais entre usuários e modelos

O CEO e cofundador da OpenAI, Sam Altman, também abordou a questão publicamente em um post no X, escrevendo:

"Recentemente, o NYT solicitou a um tribunal que nos obrigasse a não excluir os bate-papos dos usuários. achamos que essa foi uma solicitação inadequada que abre um precedente ruim. estamos recorrendo da decisão.

Ele sugeriu que pode ser necessária uma estrutura legal e ética mais ampla para a privacidade da IA:

"Temos pensado recentemente sobre a necessidade de algo como o 'privilégio da IA'; isso realmente acelera a necessidade de termos essa conversa."

"Na minha opinião, conversar com uma IA deve ser como conversar com um advogado ou um médico."

"Espero que a sociedade descubra isso em breve."

O conceito de "privilégio de IA" seria paralelo aos padrões de confidencialidade estabelecidos, como o privilégio advogado-cliente ou médico-paciente.

É incerto se essa estrutura ganhará força nas arenas jurídicas ou políticas, mas os comentários de Altman indicam que a OpenAI pode pressionar por esse tipo de mudança.

O que vem por aí para a OpenAI e seus bate-papos temporários ou excluídos?

A OpenAI se opôs formalmente à ordem do tribunal, solicitando que ela seja desocupada.

Em documentos judiciais, a empresa argumenta que a demanda carece de base factual e que a preservação de bilhões de pontos de dados adicionais é desnecessária e desproporcional.

A juíza Wang indicou, durante uma audiência em 27 de maio, que a ordem é temporária. Ela instruiu ambas as partes a desenvolverem um plano de amostragem para testar se os dados de usuários excluídos diferem materialmente dos registros retidos. A OpenAI foi intimada a apresentar essa proposta até 6 de junho, embora o registro ainda não tenha sido divulgado.

Implicações para empresas e tomadores de decisão de IA corporativa

Embora a ordem isente os clientes do ChatGPT Enterprise e da API que usam endpoints ZDR, suas implicações legais e de reputação mais amplas são significativas para os profissionais que gerenciam implementações de IA.

Aqueles que supervisionam o ciclo de vida de grandes modelos de linguagem (LLMs) devem reavaliar as suposições de governança de dados. Se os componentes de LLM voltados para o usuário podem estar sujeitos a ordens legais de preservação, surgem questões críticas sobre o fluxo de dados depois que eles deixam um endpoint seguro e como isolar ou tornar anônimas as interações de alto risco.

Qualquer plataforma que utilize APIs OpenAI deve verificar quais endpoints (ZDR vs. não ZDR) estão em uso e garantir que as políticas de tratamento de dados estejam claramente refletidas nos contratos de usuário, nos registros de auditoria e na documentação interna.

Mesmo com endpoints ZDR, as organizações devem revisar as políticas de ciclo de vida dos dados para confirmar que os sistemas downstream (análise, registro, backup) não retenham inadvertidamente interações consideradas transitórias.

Os responsáveis pela segurança devem agora expandir a modelagem de ameaças para incluir a descoberta legal como um possível vetor de risco. As equipes precisam verificar se as práticas de retenção de back-end da OpenAI estão alinhadas com os controles internos, avaliar os riscos de terceiros e determinar se os usuários estão confiando em recursos como o "bate-papo temporário", que pode não funcionar conforme o esperado em caso de retenção legal.

Um momento crucial para a privacidade e a segurança do usuário em IA

Essa situação representa mais do que uma disputa jurídica; é um momento crucial no debate em evolução sobre a privacidade da IA e os direitos dos dados. Ao introduzir o conceito de "privilégio de IA", a OpenAI está propondo um novo contrato social para a forma como os sistemas inteligentes lidam com as informações confidenciais dos usuários.

Ainda não se sabe se os tribunais ou os legisladores aceitarão essa estrutura. Por enquanto, a OpenAI está navegando em um equilíbrio complexo entre conformidade legal, garantias empresariais e confiança do usuário, ao mesmo tempo em que enfrenta um escrutínio crescente sobre quem controla os dados ao interagir com a IA.