Los usuarios de Anthropic deben elegir: Compartir los chats de IA para formación o excluirse

Anthropic está introduciendo importantes cambios en sus políticas de datos de usuario, exigiendo a todos los usuarios de Claude que decidan antes del 28 de septiembre si consienten que sus conversaciones se utilicen para el entrenamiento de modelos de IA. Aunque la empresa se remitió a la entrada de su blog sobre las actualizaciones de la política cuando se le preguntó por el razonamiento, hemos desarrollado nuestras propias interpretaciones.

En primer lugar, examinemos los cambios: Anteriormente, Anthropic no utilizaba los datos de chat de los consumidores para el entrenamiento de modelos. Ahora, la empresa tiene la intención de entrenar sus sistemas de IA en las conversaciones de los usuarios y las sesiones de codificación, ampliando la retención de datos a cinco años para los usuarios que no se excluyan.

Esto representa un cambio significativo. Antes de esta actualización, a los usuarios de los productos de consumo de Anthropic se les informaba de que sus mensajes y resultados de las conversaciones se eliminarían automáticamente de los sistemas de Anthropic en 30 días, a menos que los requisitos legales o políticos exigieran una retención más prolongada, o si su contenido violaba las políticas, en cuyo caso las entradas y salidas podrían almacenarse durante un máximo de dos años.

Estas nuevas políticas se aplican a los usuarios de Claude Free, Pro y Max, incluidos los que utilizan Claude Code. Los clientes empresariales que utilicen Claude Gov, Claude for Work, Claude for Education o el acceso API no se verán afectados, reflejando cómo OpenAI protege de forma similar a los clientes empresariales de las políticas de formación de datos.

¿A qué se deben estos cambios? En su anuncio, Anthropic presenta la actualización como una elección del usuario, sugiriendo que al no optar por no participar, los usuarios "nos ayudarán a mejorar la seguridad del modelo, haciendo que nuestros sistemas de detección de contenidos nocivos sean más precisos y reduciendo los falsos positivos". Los usuarios "también contribuirán a mejorar las futuras capacidades de los modelos Claude en áreas como la codificación, el análisis y el razonamiento, beneficiando en última instancia a todos los usuarios."

En esencia: ayúdenos a ayudarle. Sin embargo, el panorama completo puede ser algo menos altruista.

Al igual que otras grandes empresas de modelos lingüísticos, la necesidad de datos de Anthropic pesa más que la preocupación por la percepción de la marca. Entrenar modelos de IA requiere enormes volúmenes de datos conversacionales de alta calidad, y el acceso a millones de interacciones de Claude proporciona precisamente el tipo de contenido del mundo real que podría reforzar la posición competitiva de Anthropic frente a rivales como OpenAI y Google.

Los pesos pesados de la tecnología y el capital riesgo se unen a la agenda de Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil... son sólo algunos de los influyentes líderes que se unen a la agenda de Disrupt 2025. Están aquí para compartir ideas que impulsen el crecimiento de las startups y mejoren su ventaja competitiva. No se pierda el 20º aniversario de TechCrunch Disrupt ni esta oportunidad de aprender de las voces más destacadas de la tecnología: asegure su entrada ahora y ahorre hasta más de 600 $ antes de que suban los precios.

Los pesos pesados de la tecnología y el capital riesgo se unen a la agenda de Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital... son sólo algunas de las figuras destacadas que se unen a la agenda de Disrupt 2025. Están aquí para aportar ideas que impulsen el crecimiento de las startups y mejoren su competitividad. No te pierdas el 20º aniversario de TechCrunch Disrupt y la oportunidad de aprender de los mejores expertos en tecnología: compra tu entrada ahora y ahorra hasta 675 $ antes de que suban los precios.

Más allá de las presiones competitivas en el desarrollo de la IA, estos cambios también reflejan cambios más amplios de la industria en las políticas de datos, ya que empresas como Anthropic y OpenAI se enfrentan a un creciente escrutinio sobre sus prácticas de retención de datos. OpenAI, por ejemplo, se enfrenta actualmente a una orden judicial que obliga a la empresa a conservar indefinidamente todas las conversaciones ChatGPT de los consumidores, incluidos los chats eliminados, como resultado de una demanda interpuesta por The New York Times y otros editores.

En junio, el director de operaciones de OpenAI, Brad Lightcap, describió este requerimiento como "una exigencia arrolladora e innecesaria" que "entra fundamentalmente en conflicto con los compromisos de privacidad que hemos adquirido con nuestros usuarios". La orden judicial afecta a los usuarios de ChatGPT Free, Plus, Pro y Team, aunque los clientes empresariales y aquellos con acuerdos de Cero Retención de Datos siguen protegidos.

Lo preocupante es la considerable confusión que esta evolución de las políticas de uso está generando entre los usuarios, muchos de los cuales las desconocen.

Es cierto que el sector tecnológico evoluciona rápidamente, por lo que las políticas de privacidad cambian inevitablemente con los avances tecnológicos. Sin embargo, muchas de estas modificaciones son bastante sustanciales y, sin embargo, sólo reciben una breve mención en medio de otros anuncios de la empresa. (A juzgar por su ubicación en la página de prensa de Anthropic, no cabría sospechar que los cambios de política del martes para los usuarios fueran especialmente significativos).

Muchos usuarios siguen sin saber que las directrices que han aceptado han cambiado porque el diseño de la interfaz prácticamente lo garantiza. La mayoría de los usuarios de ChatGPT siguen pulsando opciones de "borrar" que técnicamente no eliminan nada. Mientras tanto, Anthropic aplica su nueva política siguiendo un enfoque familiar.

¿Cómo? Los nuevos usuarios seleccionan su preferencia durante el registro, pero los usuarios existentes se encuentran con una ventana emergente que muestra "Updates to Consumer Terms and Policies" (Actualizaciones de las condiciones y políticas de consumo) en texto grande con un prominente botón negro de "Accept" (Aceptar), mientras que el botón de permiso de formación, mucho más pequeño, aparece debajo en letra más fina, preestablecido en "On" (Activado).

Como ha señalado hoy The Verge, este diseño hace temer que los usuarios se apresuren a pulsar "Aceptar" sin darse cuenta de que están consintiendo que se compartan sus datos.

Entretanto, la importancia de la concienciación del usuario nunca ha sido mayor. Los expertos en privacidad llevan mucho tiempo advirtiendo de que la complejidad de la IA hace que sea muy difícil conseguir un verdadero consentimiento del usuario. Bajo la administración Biden, la Comisión Federal de Comercio incluso intervino, advirtiendo de que las empresas de IA se arriesgan a acciones coercitivas si "modifican subrepticiamente las condiciones de servicio o las políticas de privacidad, u ocultan información tras hipervínculos, jerga legal o letra pequeña".

Sigue siendo incierto si la comisión -que actualmente funciona con sólo tres de sus cinco comisarios- continúa supervisando estas prácticas, una pregunta que hemos planteado directamente a la FTC.