OpenAI retendrá los datos de ChatGPT por orden judicial, el CEO Altman propone el privilegio de la IA

Es posible que muchos usuarios habituales de ChatGPT, incluido el autor de este artículo, hayan interactuado con la función de "chat temporal". Esta opción, ofrecida por el popular chatbot de OpenAI, está diseñada para borrar automáticamente toda la información intercambiada durante una sesión en cuanto ésta se cierra.

Además, los usuarios tienen la posibilidad de borrar manualmente conversaciones anteriores de ChatGPT desde la barra lateral de las aplicaciones web, de escritorio y móvil. Esto se hace haciendo clic con el botón izquierdo del ratón, control-clic o realizando una pulsación larga en el chat deseado.

Esta semana, sin embargo, OpenAI se enfrentó a las críticas de los usuarios después de que se revelara que la compañía no había estado borrando estos registros de chat como se les hizo creer a los usuarios.

"¿Me estás diciendo que mis chats eliminados de ChatGPT en realidad no se han eliminado y [están] siendo guardados para ser investigados por un juez?", publicó el usuario de X @ns123abc, un comentario que obtuvo más de un millón de visitas.

Otro usuario, @kepano, añadió: "puedes 'borrar' un chat de ChatGPT, sin embargo todos los chats deben conservarse debido a obligaciones legales...".

Como señaló en su blog el experto en IA e ingeniero de software Simon Willison: "¡Los clientes de pago de las API [de OpenAI] bien podrían tomar la decisión de cambiar a otros proveedores que puedan ofrecer políticas de retención que no sean subvertidas por esta orden judicial!".

OpenAI confirmó que, desde mediados de mayo de 2025, ha estado conservando los chats borrados y temporales de los usuarios en cumplimiento de una orden judicial federal. La empresa no informó a los usuarios de esta retención hasta el 5 de junio.

La orden, emitida el 13 de mayo de 2025 por la juez de instrucción estadounidense Ona T. Wang, ordena a OpenAI "preservar y segregar todos los datos de registro de salida que, de otro modo, se eliminarían en el futuro". Esto incluye los chats que los usuarios han solicitado borrar o los borrados automáticamente por motivos de privacidad.

Esta directiva tiene su origen en el caso The New York Times (NYT) contra OpenAI y Microsoft, un pleito por derechos de autor que dura ya más de año y medio. Los abogados del NYT alegan que los modelos lingüísticos de OpenAI pueden reproducir literalmente contenidos informativos protegidos por derechos de autor. Argumentan que los registros, incluidos los que borran los usuarios, podrían contener pruebas relevantes de producciones infractoras.

Aunque OpenAI cumplió la orden inmediatamente, esperó más de tres semanas para notificarlo públicamente a los usuarios afectados. Más tarde, la empresa publicó una entrada en su blog y unas preguntas frecuentes en las que se detallaba el mandato legal y a qué usuarios afectaba.

OpenAI responsabiliza de esta acción al NYT y a la orden del juez, afirmando que cree que la demanda de preservación es "infundada".

OpenAI aclara la orden judicial de preservar los registros de usuarios de ChatGPT y detalla qué chats están afectados

En una reciente entrada de blog, el director de operaciones de OpenAI, Brad Lightcap, defendió la postura de la empresa, afirmando que aboga por la privacidad de los usuarios frente a lo que considera una orden judicial demasiado amplia. Escribió:

"El New York Times y otros demandantes han planteado una exigencia arrolladora e innecesaria en su infundada demanda contra nosotros: retener indefinidamente los datos de los clientes de ChatGPT y API. Esto entra fundamentalmente en conflicto con los compromisos de privacidad que hemos adquirido con nuestros usuarios."

En la publicación se aclara que los usuarios de ChatGPT Free, Plus, Pro y Team, junto con los clientes de API sin un acuerdo de retención de datos cero (ZDR), están sujetos a la orden de conservación. Para estos usuarios, incluso los chats eliminados o los de sesiones de chat temporales se almacenarán en un futuro previsible.

Sin embargo, los suscriptores de los planes ChatGPT Enterprise y Edu, así como los clientes de API que utilicen puntos finales ZDR, no se verán afectados. Sus chats se seguirán eliminando según las instrucciones.

Los datos retenidos se mantienen bajo retención legal, lo que significa que se almacenan en un sistema seguro e independiente al que sólo puede acceder un número limitado de personal legal y de seguridad.

"Estos datos no se comparten automáticamente con The New York Times ni con nadie más", subrayó Lightcap.

Sam Altman propone el "privilegio de la IA" para las conversaciones confidenciales entre usuarios y modelos

El CEO y cofundador de OpenAI, Sam Altman, también abordó el tema públicamente en un post en X, escribiendo:

"Recientemente, el NYT pidió a un tribunal que nos obligara a no borrar ningún chat de los usuarios. creemos que fue una petición inapropiada que sienta un mal precedente. vamos a apelar la decisión. lucharemos contra cualquier demanda que comprometa la privacidad de nuestros usuarios; este es un principio básico".

Sugirió que podría ser necesario un marco jurídico y ético más amplio para la privacidad de la IA:

"hemos estado pensando recientemente en la necesidad de algo así como el 'privilegio de la IA'; esto realmente acelera la necesidad de tener la conversación".

"imo hablar con una IA debería ser como hablar con un abogado o un médico".

"Espero que la sociedad resuelva esto pronto".

El concepto de "privilegio de la IA" sería paralelo a las normas de confidencialidad establecidas, como el privilegio abogado-cliente o médico-paciente.

No se sabe con certeza si este marco ganará terreno en el ámbito jurídico o político, pero los comentarios de Altman indican que OpenAI podría impulsar este tipo de cambio.

¿Qué le espera a OpenAI y a tus chats temporales o eliminados?

OpenAI se ha opuesto formalmente a la orden del tribunal, solicitando su anulación.

En los documentos presentados ante el tribunal, la empresa alega que la demanda carece de base fáctica y que la conservación de miles de millones de puntos de datos adicionales es innecesaria y desproporcionada.

La juez Wang indicó durante una vista celebrada el 27 de mayo que la orden es temporal. Ordenó a ambas partes que desarrollaran un plan de muestreo para comprobar si los datos de usuario eliminados difieren materialmente de los registros conservados. Se ordenó a OpenAI que presentara esa propuesta antes del 6 de junio, aunque la presentación aún no se ha hecho pública.

Implicaciones para las empresas y los responsables de la IA corporativa

Aunque la orden exime a los clientes de ChatGPT Enterprise y API que utilizan puntos finales ZDR, sus implicaciones legales y de reputación más amplias son significativas para los profesionales que gestionan despliegues de IA.

Aquellos que supervisan el ciclo de vida de los grandes modelos lingüísticos (LLM) deben reevaluar los supuestos de gobernanza de datos. Si los componentes LLM orientados al usuario pueden estar sujetos a órdenes legales de preservación, surgen cuestiones críticas sobre el flujo de datos después de que abandone un punto final seguro y sobre cómo aislar o anonimizar las interacciones de alto riesgo.

Cualquier plataforma que utilice API de OpenAI debe verificar qué puntos finales (ZDR y no ZDR) están en uso y asegurarse de que las políticas de tratamiento de datos se reflejan claramente en los acuerdos de usuario, los registros de auditoría y la documentación interna.

Incluso con puntos finales ZDR, las organizaciones deben revisar las políticas de ciclo de vida de los datos para confirmar que los sistemas posteriores (análisis, registro, copia de seguridad) no retienen inadvertidamente interacciones supuestamente transitorias.

Los responsables de seguridad deben ampliar ahora el modelado de amenazas para incluir la detección legal como un vector de riesgo potencial. Los equipos deben verificar si las prácticas de retención del backend de OpenAI se ajustan a los controles internos, evaluar los riesgos de terceros y determinar si los usuarios confían en funciones como el "chat temporal", que podría no funcionar como se espera en caso de retención legal.

Un momento crucial para la privacidad y la seguridad de los usuarios en la IA

Esta situación representa más que una disputa legal; es un momento crucial en el debate en evolución sobre la privacidad y los derechos de los datos en la IA. Al introducir el concepto de "privilegio de la IA", OpenAI propone un nuevo contrato social sobre la forma en que los sistemas inteligentes gestionan la información confidencial de los usuarios.

Aún se desconoce si los tribunales o los legisladores aceptarán esta propuesta. Por ahora, OpenAI navega por un complejo equilibrio entre el cumplimiento de la ley, las garantías empresariales y la confianza del usuario, al tiempo que se enfrenta a un creciente escrutinio sobre quién controla en última instancia los datos cuando se interactúa con la IA.