Hugging Face divulga ataque a agente de IA e implementa o GLM5.2 para análise de logs

A Hugging Face, a maior comunidade de IA de código aberto do mundo, revelou recentemente que seus servidores foram comprometidos por um hacker que utilizava IA. Em resposta, a equipe de segurança tentou, inicialmente, analisar mais de 17.000 registros relacionados ao ataque usando uma API de um dos principais modelos de linguagem de grande porte comerciais dos EUA. No entanto, o modelo teve dificuldade em diferenciar entre os invasores e a equipe de resposta a incidentes, fazendo com que o sistema de segurança classificasse erroneamente as solicitações e, por fim, negasse o suporte à análise.
Em seguida, a Hugging Face implantou o modelo chinês de código aberto GLM5.2 em sua própria infraestrutura para realizar uma análise forense dos extensos registros de segurança, concluindo com sucesso a investigação do incidente.
Esse incidente ressalta que, à medida que os agentes de IA se tornam mais envolvidos em ataques cibernéticos, a análise de segurança requer modelos de grande porte com capacidades aprimoradas de compreensão, raciocínio e implantação. Em comparação com APIs comerciais baseadas em nuvem, os modelos de código aberto implantados localmente oferecem maior flexibilidade em segurança de dados, controle de acesso e personalização de tarefas, ao mesmo tempo em que evitam interrupções causadas pelas políticas de segurança da plataforma.
Artigo relacionado
A Higgsfield garante US$ 400 milhões em financiamento, atingindo avaliação de US$ 5,4 bilhões com investimentos do Goldman Sachs e da Intel
A plataforma de vídeo com inteligência artificial Higgsfield garantiu US$ 400 milhões em financiamento da DST Global, Goldman Sachs, Liberty Global e Intel, alcançando uma avaliação de US$ 5,4 bilhões, segundo o Financial Times. A startup de dois ano
A Science Corporation implanta chip restaurador de visão no primeiro paciente com doença de Stargardt
O CEO da Science Corporation, Max Hodak, revelou que a empresa implantou com sucesso seu chip PRIMA, restaurador da visão, em seu primeiro paciente portador da doença de Stargardt, uma condição hereditária que destrói progressivamente a visão central
O clone Jev da OpenAI pode ajudar o Frontiers Lab a controlar agentes em enxame
Entre os anúncios mais notáveis do Dev Day da OpenAI na terça-feira, houve um breve comentário do CEO Sam Altman sobre o lançamento do novo “Decisions API” da empresa.Esta API parece oferecer capacidades semelhantes às do Jev, um modelo introduzido
Recomendações de tópicos especiais relacionados
Comentários (1)

A Hugging Face, a maior comunidade de IA de código aberto do mundo, revelou recentemente que seus servidores foram comprometidos por um hacker que utilizava IA. Em resposta, a equipe de segurança tentou, inicialmente, analisar mais de 17.000 registros relacionados ao ataque usando uma API de um dos principais modelos de linguagem de grande porte comerciais dos EUA. No entanto, o modelo teve dificuldade em diferenciar entre os invasores e a equipe de resposta a incidentes, fazendo com que o sistema de segurança classificasse erroneamente as solicitações e, por fim, negasse o suporte à análise.
Em seguida, a Hugging Face implantou o modelo chinês de código aberto GLM5.2 em sua própria infraestrutura para realizar uma análise forense dos extensos registros de segurança, concluindo com sucesso a investigação do incidente.
Esse incidente ressalta que, à medida que os agentes de IA se tornam mais envolvidos em ataques cibernéticos, a análise de segurança requer modelos de grande porte com capacidades aprimoradas de compreensão, raciocínio e implantação. Em comparação com APIs comerciais baseadas em nuvem, os modelos de código aberto implantados localmente oferecem maior flexibilidade em segurança de dados, controle de acesso e personalização de tarefas, ao mesmo tempo em que evitam interrupções causadas pelas políticas de segurança da plataforma.
A Higgsfield garante US$ 400 milhões em financiamento, atingindo avaliação de US$ 5,4 bilhões com investimentos do Goldman Sachs e da Intel
A plataforma de vídeo com inteligência artificial Higgsfield garantiu US$ 400 milhões em financiamento da DST Global, Goldman Sachs, Liberty Global e Intel, alcançando uma avaliação de US$ 5,4 bilhões, segundo o Financial Times. A startup de dois ano
A Science Corporation implanta chip restaurador de visão no primeiro paciente com doença de Stargardt
O CEO da Science Corporation, Max Hodak, revelou que a empresa implantou com sucesso seu chip PRIMA, restaurador da visão, em seu primeiro paciente portador da doença de Stargardt, uma condição hereditária que destrói progressivamente a visão central
O clone Jev da OpenAI pode ajudar o Frontiers Lab a controlar agentes em enxame
Entre os anúncios mais notáveis do Dev Day da OpenAI na terça-feira, houve um breve comentário do CEO Sam Altman sobre o lançamento do novo “Decisions API” da empresa.Esta API parece oferecer capacidades semelhantes às do Jev, um modelo introduzido





Lar






