Meta para entrenar modelos de IA con datos de usuarios de la UE

Meta ha anunciado recientemente su intención de aprovechar el contenido público compartido por usuarios adultos en la Unión Europea (UE) para mejorar sus modelos de IA. Esta medida sigue al lanzamiento de las funciones de Meta AI en toda Europa, con el objetivo de adaptar sus capacidades de IA más estrechamente a la diversa población de la región.

En un comunicado oficial, Meta declaró: "Hoy, estamos anunciando nuestros planes para entrenar la IA en Meta utilizando contenido público, como publicaciones y comentarios públicos, compartidos por adultos en nuestros productos en la UE. Las interacciones de las personas con Meta AI, como preguntas y consultas, también se utilizarán para entrenar y mejorar nuestros modelos."

A partir de esta semana, los usuarios de la UE en las plataformas de Meta, incluyendo Facebook, Instagram, WhatsApp y Messenger, serán notificados sobre este uso de datos. Estas notificaciones se enviarán a través de alertas dentro de la aplicación y por correo electrónico, explicando los tipos de datos públicos involucrados y proporcionando un enlace a un formulario de objeción. Meta enfatizó: "Hemos hecho que este formulario de objeción sea fácil de encontrar, leer y usar, y respetaremos todos los formularios de objeción que ya hemos recibido, así como los nuevos que se presenten."

Meta ha aclarado que ciertos datos no se utilizarán para el entrenamiento de IA. La compañía afirmó que no usará "mensajes privados de las personas con amigos y familiares" para entrenar sus modelos de IA generativa, y los datos públicos de cuentas de usuarios menores de 18 años en la UE serán excluidos de los conjuntos de datos de entrenamiento.

La visión de Meta para herramientas de IA centradas en la UE

Meta posiciona este uso de datos como un paso crucial en el desarrollo de herramientas de IA específicamente diseñadas para usuarios de la UE. Tras el reciente lanzamiento de la funcionalidad de chatbot de IA en sus aplicaciones de mensajería en Europa, Meta considera esto como la próxima fase en la refinación del servicio. "Creemos que tenemos la responsabilidad de construir una IA que no solo esté disponible para los europeos, sino que esté realmente construida para ellos", afirmó la compañía. Esto implica entender los dialectos locales, coloquialismos, conocimientos hiperlocales y el humor y sarcasmo únicos prevalentes en diferentes países.

A medida que los modelos de IA continúan evolucionando con capacidades multimodales en texto, voz, video e imágenes, la relevancia de una IA tan personalizada se vuelve cada vez más vital. Meta también contextualizó sus acciones dentro de la industria en general, señalando que el uso de datos de usuarios para el entrenamiento de IA es una práctica común. "Es importante destacar que el tipo de entrenamiento de IA que estamos realizando no es exclusivo de Meta, ni lo será en Europa", explicaron, citando ejemplos como Google y OpenAI, que ya han utilizado datos de usuarios europeos para entrenar sus modelos de IA.

Meta afirma que su enfoque es más transparente que el de muchos de sus competidores en la industria. Hicieron referencia a un compromiso previo con los reguladores, incluyendo un retraso el año pasado mientras esperaban una aclaración legal, y destacaron una opinión favorable de la Junta Europea de Protección de Datos (EDPB) en diciembre de 2024. "Damos la bienvenida a la opinión proporcionada por la EDPB en diciembre, que afirmó que nuestro enfoque original cumplía con nuestras obligaciones legales", escribió Meta.

Preocupaciones sobre los datos de entrenamiento de IA

Aunque Meta promociona la transparencia y el cumplimiento, el uso de extensos datos públicos de usuarios de plataformas de redes sociales para entrenar modelos de lenguaje de gran escala (LLMs) y IA generativa plantea importantes preocupaciones sobre la privacidad. Un problema es la definición de datos "públicos". El contenido compartido públicamente en plataformas como Facebook o Instagram podría no haber sido destinado como materia prima para el entrenamiento de IA comercial. Los usuarios a menudo comparten historias personales, opiniones o trabajos creativos dentro de lo que consideran su comunidad, sin esperar que se reutilicen a gran escala.

La efectividad de un sistema de "exclusión voluntaria" frente a un sistema de "inclusión voluntaria" también está en debate. Requerir que los usuarios objeten activamente tras recibir notificaciones que pueden pasar desapercibidas plantea preguntas sobre el consentimiento informado. Muchos usuarios podrían no ver, entender o actuar ante estas notificaciones, lo que lleva a que sus datos se utilicen por defecto.

Otra preocupación es el potencial de sesgos inherentes. Las plataformas de redes sociales pueden reflejar sesgos sociales, incluyendo racismo, sexismo y desinformación, que los modelos de IA podrían aprender y amplificar. Asegurar que estos modelos no perpetúen estereotipos dañinos o generalizaciones sobre las culturas europeas es un desafío significativo.

También surgen preguntas sobre derechos de autor y propiedad intelectual. Las publicaciones públicas a menudo contienen contenido original creado por los usuarios, y usar esto para entrenar modelos de IA que podrían generar contenido competitivo o derivar valor de él plantea problemas legales sobre la propiedad y la compensación justa.

Por último, aunque Meta reclama transparencia, los procesos reales de selección de datos, filtrado y su impacto en el comportamiento de la IA a menudo siguen siendo poco claros. La verdadera transparencia requeriría una comprensión más profunda de cómo los datos influyen en los resultados de la IA y las salvaguardas contra el mal uso o consecuencias no deseadas.

El enfoque de Meta en la UE destaca el valor que los gigantes tecnológicos otorgan al contenido generado por los usuarios para el desarrollo de IA. A medida que estas prácticas se extienden, los debates sobre la privacidad de los datos, el consentimiento informado, el sesgo algorítmico y las responsabilidades éticas de los desarrolladores de IA se intensificarán en Europa y a nivel global.