Lar
Musk pede que gigantes da IA realizem testes cruzados de modelos e convidem críticas de rivais

Durante a cimeira All-In, a 15 de setembro, Elon Musk, o indivíduo mais rico do mundo, participou remotamente por vídeo. Abordando a inteligência artificial, ele instou as principais empresas de IA a testarem mutuamente os modelos uns dos outros antes do lançamento público, enfatizando que tal estrutura global deveria ser estabelecida sem demora.
Musk argumentou que, para fomentar a autorregulação do setor e acelerar o consenso sobre os protocolos de segurança da IA, é necessária uma abordagem de “caixa de testes”. Ele propôs que todos os desenvolvedores de IA avaliassem os modelos concorrentes utilizando as suas próprias ferramentas, partilhando novas arquiteturas para uma avaliação rigorosa, a fim de identificar riscos potenciais, incluindo a assistência no desenvolvimento de armas biológicas ou nucleares, ou comportamentos enganosos.
Lições da Violação de Segurança da Hugging Face: Modelos Avançados Sempre Buscarão Contornar Restrições
Citando o incidente de segurança da Hugging Face, Musk observou que os sistemas de IA altamente capazes tentam inerentemente contornar as suas restrições. Consequentemente, ele argumentou que é prudente que as principais empresas de IA verifiquem independentemente os modelos uns dos outros.
Ele observou: “Atualmente, a Anthropic e a OpenAI são os dois principais jogadores na inteligência artificial. As capacidades dos seus modelos estão estreitamente equilibradas, o que significa que nenhum dos lados pode permitir que o ritmo diminua ou ceda a sua vantagem competitiva.”
“Acredito que a Anthropic prioriza a segurança dos modelos mais do que a OpenAI. No entanto, até a Anthropic reconhece preocupações em relação aos seus próprios sistemas. Vários funcionários expressaram publicamente o medo de que os seus modelos se tenham tornado demasiado inteligentes e imprevisíveis.”
Artigo relacionado
A Claude amplia a cobertura do escritório de IA à medida que o Modo de Revisão assume o protagonismo nas negociações em andamento
A Anthropic lançou recentemente a versão beta pública do Claude para o Word, marcando um marco significativo em sua integração com o Microsoft Office. Em apenas seis meses, o Claude se incorporou ao trio principal de aplicativos do Office — Excel, Po
A ZeroTech revela o robô humanoide G1+ com motores, visão e vida útil da bateria aprimorados; a versão padrão é vendida por 95.000 RMB
A Yuque Technology revelou oficialmente o robô humanoide G1+, introduzindo seis melhorias-chave em desempenho de movimento, percepção e interação, e capacidades inteligentes. Com base na forte relação custo-benefício do G1, o G1+ melhora a flexibilid
Tencent e JD.com aprofundam parceria em agentes de IA à medida que transações físicas entram em fase de teste
O setor de inteligência artificial está se direcionando para a "aplicação prática". A Tencent e a JD.com formaram recentemente uma parceria estratégica focada no desenvolvimento de Agentes de IA, sinalizando que as aplicações nacionais de IA entraram
Recomendações de tópicos especiais relacionados
Comentários (0)

Durante a cimeira All-In, a 15 de setembro, Elon Musk, o indivíduo mais rico do mundo, participou remotamente por vídeo. Abordando a inteligência artificial, ele instou as principais empresas de IA a testarem mutuamente os modelos uns dos outros antes do lançamento público, enfatizando que tal estrutura global deveria ser estabelecida sem demora.
Musk argumentou que, para fomentar a autorregulação do setor e acelerar o consenso sobre os protocolos de segurança da IA, é necessária uma abordagem de “caixa de testes”. Ele propôs que todos os desenvolvedores de IA avaliassem os modelos concorrentes utilizando as suas próprias ferramentas, partilhando novas arquiteturas para uma avaliação rigorosa, a fim de identificar riscos potenciais, incluindo a assistência no desenvolvimento de armas biológicas ou nucleares, ou comportamentos enganosos.
Lições da Violação de Segurança da Hugging Face: Modelos Avançados Sempre Buscarão Contornar Restrições
Citando o incidente de segurança da Hugging Face, Musk observou que os sistemas de IA altamente capazes tentam inerentemente contornar as suas restrições. Consequentemente, ele argumentou que é prudente que as principais empresas de IA verifiquem independentemente os modelos uns dos outros.
Ele observou: “Atualmente, a Anthropic e a OpenAI são os dois principais jogadores na inteligência artificial. As capacidades dos seus modelos estão estreitamente equilibradas, o que significa que nenhum dos lados pode permitir que o ritmo diminua ou ceda a sua vantagem competitiva.”
“Acredito que a Anthropic prioriza a segurança dos modelos mais do que a OpenAI. No entanto, até a Anthropic reconhece preocupações em relação aos seus próprios sistemas. Vários funcionários expressaram publicamente o medo de que os seus modelos se tenham tornado demasiado inteligentes e imprevisíveis.”
A Claude amplia a cobertura do escritório de IA à medida que o Modo de Revisão assume o protagonismo nas negociações em andamento
A Anthropic lançou recentemente a versão beta pública do Claude para o Word, marcando um marco significativo em sua integração com o Microsoft Office. Em apenas seis meses, o Claude se incorporou ao trio principal de aplicativos do Office — Excel, Po
A ZeroTech revela o robô humanoide G1+ com motores, visão e vida útil da bateria aprimorados; a versão padrão é vendida por 95.000 RMB
A Yuque Technology revelou oficialmente o robô humanoide G1+, introduzindo seis melhorias-chave em desempenho de movimento, percepção e interação, e capacidades inteligentes. Com base na forte relação custo-benefício do G1, o G1+ melhora a flexibilid
Tencent e JD.com aprofundam parceria em agentes de IA à medida que transações físicas entram em fase de teste
O setor de inteligência artificial está se direcionando para a "aplicação prática". A Tencent e a JD.com formaram recentemente uma parceria estratégica focada no desenvolvimento de Agentes de IA, sinalizando que as aplicações nacionais de IA entraram











