Lar
Anthropic, OpenAI e Google em conversas secretas para formar um órgão de padrões de segurança de IA
De acordo com fontes do setor, antes da ligação do último sábado do CEO da Anthropic, Dario Amodei, na qual pediu às empresas de IA que colaborassem em testes técnicos e auditorias, a Anthropic, a OpenAI e a Google já haviam iniciado discussões para formar um órgão de padrões da indústria de IA.
Fontes internas relatam que, desde julho, representantes dessas três empresas, atuando abaixo do nível dos CEOs, formaram um grupo de trabalho que se reúne regularmente. No início desta semana, o CEO da OpenAI, Sam Altman, afirmou durante uma reunião geral que apoia a criação de uma instituição independente de testes e auditoria de IA, argumentando que os principais laboratórios devem estabelecer tais padrões sem a participação do governo dos EUA. Embora inicialmente tenha favorecido o apoio governamental, atualmente não há consenso suficiente na indústria, com algumas empresas se opondo à medida.
Debate sobre três modelos regulatórios: FAA, FINRA ou Autorregulação
No último sábado, Amodei publicou um artigo de blog intitulado “Devemos Reduzir o Ritmo do Desenvolvimento de Fronteira”, instando a uma desaceleração do progresso da IA e à criação de um mecanismo de supervisão independente, com a autorregulação da indústria como componente central. Ele sugeriu que, enquanto os governos elaboram regulamentações sobre IA, as empresas devem primeiro adotar padrões de segurança voluntários, com o governo potencialmente liderando ou mediando o diálogo da indústria. Ele também pediu às principais empresas globais que concedessem a avaliadores externos, como o METR, acesso à tecnologia equivalente à de funcionários internos, comprometendo-se a que a Anthropic seria a primeira a fazê-lo. Além disso, ele defendeu isenções limitadas das leis antitruste para facilitar a colaboração segura.
Demis Hassabis, que recentemente deixou o cargo de CEO da Google DeepMind, descreveu a proposta como um passo na direção certa, mas observou que certos detalhes “ainda precisam ser refinados”. Em julho, ele havia sugerido a criação de uma organização de autorregulação de IA baseada na Autoridade de Regulamentação da Indústria Financeira dos EUA (FINRA). Elon Musk, CEO da SpaceX, também manifestou apoio. De acordo com um relatório anterior do The Information, a Casa Branca circulou um projeto de ordem executiva propondo este órgão regulador, mas não conseguiu obter apoio governamental suficiente até o final do verão, interrompendo os esforços relacionados. David Sacks, ex-diretor de IA da Casa Branca, se opôs abertamente à criação de uma instituição semelhante à FINRA.
Reação contrária: Críticos a rotulam como “desenho de um cartel”
A proposta enfrentou críticas significativas dentro do setor. Aiden Gomez, CEO da Cohere, expressou preocupação de que as grandes empresas de IA pudessem estabelecer conjuntamente regras para restringir concorrentes menores, afirmando: “Essa ideia soa exatamente como o desenho de um cartel.” Sacks questionou se a desaceleração do desenvolvimento era puramente altruísta, argumentando que os riscos de responsabilidade por produtos já fornecem incentivos econômicos para prevenir danos.
De acordo com fontes internas, as reuniões do grupo de trabalho entre as três empresas sobre esta organização de padrões liderada pela indústria estão em andamento, com sessões realizadas até a semana passada. A posição da Meta permanece incerta; seu Diretor de IA, Alexander Wang, publicou no X que “o alinhamento é a base para construir uma superinteligência pessoal para todas as pessoas”, sem apoiar ou se opor explicitamente à proposta mais ampla de Amodei.
Artigo relacionado
A OpenAI cria uma Força-Tarefa para Investigar o Uso Incomum do Codex
A OpenAI lançou uma equipe de investigação dedicada após relatos de usuários sobre uso irregular da cota do Codex. Assinantes pagos do ChatGPT relataram uma queda acentuada nas cotas semanais, com os saldos caindo de 96% para zero rapidamente, mesmo
A Societe Generale aposta na IA para reduzir custos em até 600 milhões de euros
O Bloomberg relata que a Société Générale SA prevê que o papel crescente da inteligência artificial impulsionará significativamente as iniciativas de redução de custos.A instituição sediada em Paris estima que o potencial atual de economias impulsio
Como criar avatares falantes de IA gratuitos
Personalização Avançada de Avatares do Roblox: Um Guia Inspirado por Karl JacobsIntroduçãoAprimorando seu AvatarNavegando pelo Editor de AvatarExplorando Looks em AltaPersonalizando seu PersonagemFerramentas de Busca e FiltroAproveitando a Funç
Recomendações de tópicos especiais relacionados
Comentários (0)
De acordo com fontes do setor, antes da ligação do último sábado do CEO da Anthropic, Dario Amodei, na qual pediu às empresas de IA que colaborassem em testes técnicos e auditorias, a Anthropic, a OpenAI e a Google já haviam iniciado discussões para formar um órgão de padrões da indústria de IA.
Fontes internas relatam que, desde julho, representantes dessas três empresas, atuando abaixo do nível dos CEOs, formaram um grupo de trabalho que se reúne regularmente. No início desta semana, o CEO da OpenAI, Sam Altman, afirmou durante uma reunião geral que apoia a criação de uma instituição independente de testes e auditoria de IA, argumentando que os principais laboratórios devem estabelecer tais padrões sem a participação do governo dos EUA. Embora inicialmente tenha favorecido o apoio governamental, atualmente não há consenso suficiente na indústria, com algumas empresas se opondo à medida.
Debate sobre três modelos regulatórios: FAA, FINRA ou Autorregulação
No último sábado, Amodei publicou um artigo de blog intitulado “Devemos Reduzir o Ritmo do Desenvolvimento de Fronteira”, instando a uma desaceleração do progresso da IA e à criação de um mecanismo de supervisão independente, com a autorregulação da indústria como componente central. Ele sugeriu que, enquanto os governos elaboram regulamentações sobre IA, as empresas devem primeiro adotar padrões de segurança voluntários, com o governo potencialmente liderando ou mediando o diálogo da indústria. Ele também pediu às principais empresas globais que concedessem a avaliadores externos, como o METR, acesso à tecnologia equivalente à de funcionários internos, comprometendo-se a que a Anthropic seria a primeira a fazê-lo. Além disso, ele defendeu isenções limitadas das leis antitruste para facilitar a colaboração segura.
Demis Hassabis, que recentemente deixou o cargo de CEO da Google DeepMind, descreveu a proposta como um passo na direção certa, mas observou que certos detalhes “ainda precisam ser refinados”. Em julho, ele havia sugerido a criação de uma organização de autorregulação de IA baseada na Autoridade de Regulamentação da Indústria Financeira dos EUA (FINRA). Elon Musk, CEO da SpaceX, também manifestou apoio. De acordo com um relatório anterior do The Information, a Casa Branca circulou um projeto de ordem executiva propondo este órgão regulador, mas não conseguiu obter apoio governamental suficiente até o final do verão, interrompendo os esforços relacionados. David Sacks, ex-diretor de IA da Casa Branca, se opôs abertamente à criação de uma instituição semelhante à FINRA.
Reação contrária: Críticos a rotulam como “desenho de um cartel”
A proposta enfrentou críticas significativas dentro do setor. Aiden Gomez, CEO da Cohere, expressou preocupação de que as grandes empresas de IA pudessem estabelecer conjuntamente regras para restringir concorrentes menores, afirmando: “Essa ideia soa exatamente como o desenho de um cartel.” Sacks questionou se a desaceleração do desenvolvimento era puramente altruísta, argumentando que os riscos de responsabilidade por produtos já fornecem incentivos econômicos para prevenir danos.
De acordo com fontes internas, as reuniões do grupo de trabalho entre as três empresas sobre esta organização de padrões liderada pela indústria estão em andamento, com sessões realizadas até a semana passada. A posição da Meta permanece incerta; seu Diretor de IA, Alexander Wang, publicou no X que “o alinhamento é a base para construir uma superinteligência pessoal para todas as pessoas”, sem apoiar ou se opor explicitamente à proposta mais ampla de Amodei.
A OpenAI cria uma Força-Tarefa para Investigar o Uso Incomum do Codex
A OpenAI lançou uma equipe de investigação dedicada após relatos de usuários sobre uso irregular da cota do Codex. Assinantes pagos do ChatGPT relataram uma queda acentuada nas cotas semanais, com os saldos caindo de 96% para zero rapidamente, mesmo
A Societe Generale aposta na IA para reduzir custos em até 600 milhões de euros
O Bloomberg relata que a Société Générale SA prevê que o papel crescente da inteligência artificial impulsionará significativamente as iniciativas de redução de custos.A instituição sediada em Paris estima que o potencial atual de economias impulsio
Como criar avatares falantes de IA gratuitos
Personalização Avançada de Avatares do Roblox: Um Guia Inspirado por Karl JacobsIntroduçãoAprimorando seu AvatarNavegando pelo Editor de AvatarExplorando Looks em AltaPersonalizando seu PersonagemFerramentas de Busca e FiltroAproveitando a Funç











