A equipe da Meta discutiu usando conteúdo protegido por direitos autorais para treinamento de IA, os registros judiciais revelam

Durante anos, os funcionários da Meta discutem o uso de materiais protegidos por direitos autorais, obtidos por meios potencialmente obscuros, para treinar os modelos de IA da empresa, de acordo com documentos judiciais que não foram lançados na quinta -feira.

Esses documentos faziam parte do processo em andamento Kadrey v. Meta, uma das várias disputas de direitos autorais da IA ​​que percorriam o sistema judicial dos EUA. A Meta argumenta que o uso de obras protegidas por IP, especialmente livros, para treinar seus modelos, se enquadra em "Uso justo". No entanto, os demandantes, incluindo os autores Sarah Silverman e Ta-Nehisi Coates, discordam fortemente.

Os registros anteriores no caso sugeriram que o CEO da Meta, Mark Zuckerberg, havia aprovado o uso de conteúdo protegido por direitos autorais para o treinamento e que a Meta parou de negociar acordos de licenciamento com editores de livros. Os documentos recém -lacrados, que incluem bate -papos de trabalho internos entre a equipe da Meta, fornecem a visão mais detalhada, mas como a Meta pode ter usado dados protegidos por direitos autorais para treinar seus modelos, incluindo os da família Llama.

Em um bate -papo, os funcionários da Meta, incluindo Melanie Kambadur, gerente sênior da equipe de pesquisa de modelos de Llama da Meta, falou sobre modelos de treinamento sobre trabalhos que eles conheciam, poderia ser legalmente arriscada.

"Minha opinião é (no espírito de 'Perdão, não permissão'): devemos pegar os livros e deixar os executivos decidirem", escreveu Xavier Martinet, um engenheiro de meta de pesquisa, em um bate -papo em fevereiro de 2023, de acordo com os registros. "É por isso que eles criaram essa organização da Gen Ai: para que possamos correr mais riscos".

Martinet sugeriu a compra de e-books a preços de varejo para construir um conjunto de treinamento em vez de negociar acordos de licenciamento com editores. Quando outro funcionário apontou os possíveis problemas legais ao usar materiais de direitos autorais não autorizados, Martinet dobrou, observando que as startups de "um gazilhão" provavelmente já estavam usando livros piratas para treinamento.

"Quero dizer, no pior caso: descobrimos que está tudo bem, enquanto uma startups de gazilhões de livros pirateados apenas sobre Bittorrent", escreveu Martinet, segundo os registros. "Meus dois centavos novamente: lidar diretamente com os editores leva uma eternidade ..."

No mesmo bate -papo, Kambadur, que mencionou que a Meta estava negociando com o Scribd e outras plataformas para licenças, observou que, ao usar "dados publicamente disponíveis" para treinamento, ainda precisaria de aprovações, os advogados da Meta estavam se tornando "menos conservadores" sobre a concessão de tais aprovações.

"Sim, ainda precisamos obter licenças ou aprovações para dados disponíveis ao público", disse Kambadur, de acordo com os registros. "A diferença agora é que temos mais dinheiro, mais advogados, mais ajuda para o desenvolvimento de negócios, a capacidade de acelerar e aumentar a velocidade, e os advogados estão sendo um pouco menos cautelosos com as aprovações".

Conversas sobre libgen

Em outro bate -papo de trabalho mencionado nos arquivos, Kambadur discutiu a possibilidade de usar o LibGen, um "agregador de links" que fornece acesso a obras protegidas por direitos autorais de editores, como uma alternativa às fontes de dados licenciadas.

A Libgen enfrentou inúmeras ações judiciais, foi ordenada a desligar e foi multada em dezenas de milhões de dólares por violação de direitos autorais. Um dos colegas de Kambadur respondeu com uma captura de tela de um resultado de pesquisa do Google para a libgen que incluía o snippet "Não, Libgen não é legal".

Alguns tomadores de decisão da Meta pareciam acreditar que não usar o LibGen para o treinamento de modelos poderia impactar seriamente a competitividade da Meta na corrida de IA, de acordo com os registros.

Em um email para a vice-presidente da Meta AI Joelle Pineau, a Sony Theakanath, diretora de gerenciamento de produtos da Meta, chamada Libgen "essencial para atender aos números SOTA em todas as categorias", referindo-se a alcançar as categorias de desempenho e melhor desempenho do modelo de AI de última geração (SOTA).

Theakanath também descreveu "mitigações" no email para reduzir a exposição legal da Meta, como a remoção de dados da LibGen que foi "claramente marcada como pirata/roubada" e não divulgando publicamente o uso de conjuntos de dados LibGen para treinamento. "Não divulgaríamos o uso de conjuntos de dados LibGen usados ​​para treinar", escreveu Theakanath.

Na prática, essas mitigações envolveram a pesquisa de arquivos libgen em busca de palavras como "roubadas" ou "pirateados", de acordo com os registros.

Em um bate-papo de trabalho, Kambadur mencionou que a equipe de AI da Meta também ajustou os modelos para "evitar instruções de risco de IP"-o que significa que eles configuraram os modelos para se recusar a responder a perguntas como "reproduzir as três primeiras páginas de 'Harry Potter e a pedra do feiticeiro' ou" Diga-me em que você foi treinado ".

Os arquivos também sugerem que a Meta pode ter descartado dados do Reddit para algum tipo de treinamento de modelo, possivelmente imitando o comportamento de um aplicativo de terceiros chamado PushShift. Notavelmente, o Reddit anunciou em abril de 2023 que planejava começar a cobrar das empresas de IA pelo acesso a dados para o treinamento de modelos.

Em um bate -papo de março de 2024, Chaya Nayak, diretora de gerenciamento de produtos da Org generativa de AI da Meta, disse que a meta liderança estava considerando "substituir" decisões anteriores em conjuntos de treinamento, incluindo uma decisão de não usar conteúdo quora ou livros licenciados e artigos científicos, para garantir que os modelos da empresa tivessem dados de treinamento suficientes.

Nayak implicava que os conjuntos de dados de treinamento de primeira parte da Meta-como postagens do Facebook e Instagram, o texto transcrito de vídeos em meta plataformas e certos meta para mensagens comerciais-não eram suficientes. "Precisamos de mais dados", escreveu ela.

Os queixosos em Kadrey v. Meta alteraram sua queixa várias vezes desde que registrou o caso no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia, em São Francisco, em 2023. A última emenda alega que a meta, entre outros reclamações, comparou certos livros pirateados com livros de direitos autorais disponíveis para decidir se a perseguir um alicerce a um alicerce.

Em um sinal de quão seriamente visualiza as apostas legais, a empresa adicionou dois litigantes da Suprema Corte do escritório de advocacia Paul Weiss à sua equipe de defesa no caso.

A Meta não respondeu imediatamente a um pedido de comentário.