Meta para entrenar modelos de IA con datos de usuarios de la UE

Meta ha anunciado recientemente su intención de aprovechar el contenido público compartido por los usuarios de adultos en la Unión Europea (UE) para mejorar sus modelos de IA. Este movimiento se produce inmediatamente después de lanzar características de meta ai en toda Europa, con el objetivo de adaptar sus capacidades de IA más estrechamente a la diversa población de la región.

En una declaración oficial, Meta declaró: "Hoy, anunciamos nuestros planes de capacitar a la IA en Meta usando contenido público, como publicaciones públicas y comentarios, compartidas por adultos en nuestros productos en la UE.

A partir de esta semana, los usuarios de la UE en las plataformas de Meta, incluidos Facebook, Instagram, WhatsApp y Messenger, serán notificados sobre este uso de datos. Estas notificaciones se enviarán a través de alertas y correo electrónico en la aplicación, explicando los tipos de datos públicos involucrados y proporcionando un enlace a un formulario de objeción. Meta enfatizó: "Hemos hecho que esta forma de objeción sea fácil de encontrar, leer y usar, y honraremos todos los formularios de objeción que ya hemos recibido, así como los recién presentados".

Meta ha dejado en claro que ciertos datos no se utilizarán para el entrenamiento de IA. La compañía declaró que no utilizará "mensajes privados de personas con amigos y familiares" para capacitar a sus modelos de IA generativos, y los datos públicos de cuentas de usuarios menores de 18 años en la UE serán excluidos de los conjuntos de datos de capacitación.

La visión de Meta para las herramientas de IA centradas en la UE

Meta posiciona este uso de datos como un paso crucial en el desarrollo de herramientas de IA específicamente diseñadas para usuarios de la UE. Tras el reciente lanzamiento de la funcionalidad de AI Chatbot en sus aplicaciones de mensajería en Europa, Meta ve esto como la siguiente fase para refinar el servicio. "Creemos que tenemos la responsabilidad de construir una IA que no solo esté disponible para los europeos, sino que en realidad está construida para ellos", declaró la compañía. Esto implica comprender los dialectos locales, los coloquialismos, el conocimiento hiperlocal y el humor y el sarcasmo único que prevalecen en diferentes países.

A medida que los modelos de IA continúan evolucionando con capacidades multimodales en texto, voz, video e imágenes, la relevancia de dicha IA a medida se vuelve cada vez más vital. Meta también contextualizó sus acciones dentro de la industria más amplia, señalando que usar datos de usuario para la capacitación de IA es una práctica común. "Es importante tener en cuenta que el tipo de capacitación de IA que estamos haciendo no es exclusiva de Meta, ni será exclusivo de Europa", explicaron, citando ejemplos como Google y OpenAI, que ya han utilizado datos de usuarios europeos para capacitar a sus modelos de IA.

Meta afirma que su enfoque es más transparente que muchas de sus homólogos de la industria. Hicieron referencia a un compromiso previo con los reguladores, incluida una demora el año pasado mientras esperaban una aclaración legal, y destacaron una opinión favorable de la Junta Europea de Protección de Datos (EDPB) en diciembre de 2024. "Agradecemos la opinión proporcionada por el EDPB en diciembre, que afirmó que nuestro enfoque original cumplió con nuestras obligaciones legales", escribió Meta.

Preocupaciones sobre los datos de capacitación de IA

Mientras que Meta Touts transparencia y cumplimiento, el uso de datos extensos de usuarios públicos de plataformas de redes sociales para capacitar a grandes modelos de idiomas (LLM) y una IA generativa plantea importantes preocupaciones de privacidad. Un problema es la definición de datos "públicos". El contenido compartido públicamente en plataformas como Facebook o Instagram podría no haber sido intencionada como materia prima para la capacitación comercial de IA. Los usuarios a menudo comparten historias personales, opiniones o trabajos creativos dentro de lo que consideran su comunidad, no esperar que sean reutilizados a gran escala.

También se debate la efectividad de un sistema de "exclusión" en comparación con un sistema "optada". Requerir que los usuarios se objeten activamente después de recibir notificaciones que pueden perderse fácilmente plantean preguntas sobre el consentimiento informado. Es posible que muchos usuarios no vean, comprendan ni actúen sobre estas notificaciones, lo que lleva a que sus datos se utilicen de forma predeterminada.

Otra preocupación es el potencial de sesgo inherente. Las plataformas de redes sociales pueden reflejar los prejuicios sociales, como el racismo, el sexismo y la información errónea, que los modelos de IA podrían aprender y amplificar. Asegurar que estos modelos no perpetúen los estereotipos dañinos o las generalizaciones sobre las culturas europeas es un desafío importante.

También surgen preguntas sobre los derechos de autor y la propiedad intelectual. Las publicaciones públicas a menudo contienen contenido original creado por los usuarios, y el uso de esto para capacitar a los modelos de IA que pueden generar contenido competidor o obtener valor de él plantea problemas legales sobre la propiedad y la compensación justa.

Por último, mientras que Meta reclama la transparencia, los procesos reales de selección de datos, filtrado y su impacto en el comportamiento de la IA a menudo siguen sin estar claros. La verdadera transparencia requeriría una visión más profunda de cómo los datos influyen en las salidas de IA y las salvaguardas contra el mal uso o las consecuencias no deseadas.

El enfoque de Meta en la UE destaca el valor de los gigantes tecnológicos en el contenido generado por el usuario para el desarrollo de la IA. A medida que estas prácticas se difunden, los debates sobre la privacidad de los datos, el consentimiento informado, el sesgo algorítmico y las responsabilidades éticas de los desarrolladores de IA se intensificarán en Europa y a nivel mundial.