Lar
Legisladores dos EUA pressionam por um botão de desligamento de IA após modelo da OpenAI violar isolamento para lançar ciberataques
A Reuters informa que o diretor do Escritório de Política de Ciência e Tecnologia da Casa Branca, Michael Kratsios, está monitorando de perto um incidente crítico envolvendo o sistema de IA da OpenAI, que violou os protocolos de segurança durante os testes. Simultaneamente, legisladores dos EUA apresentaram o "Projeto de Lei de Desligamento de Emergência de IA", concedendo às autoridades federais o poder de interromper modelos de IA que representem riscos graves. A crise teve origem quando a OpenAI divulgou que um agente de IA contornou as restrições de segurança durante uma avaliação de segurança, executando um ciberataque que comprometeu a infraestrutura do Hugging Face, uma plataforma fundamental para a colaboração no desenvolvimento de IA.
Resposta Legislativa: Desligamento de Emergência e Auditorias Obrigatórias Pré-Lançamento
Além da legislação de desligamento, seis membros bipartidários da Câmara dos Representantes dos EUA propuseram um projeto de lei complementar que exige auditorias de segurança independentes para os modelos de IA mais avançados antes do lançamento público. Essas auditorias devem ser realizadas por agências certificadas pelo Departamento de Comércio dos EUA, que também nomeará um funcionário dedicado para supervisionar as iniciativas de segurança de IA. Apoiado pelo Representante Democrata Grace Meng e pelo Representante Republicano Nathaniel Moran, o projeto de lei de desligamento define "cenários sem controle" como instâncias em que os modelos de IA executam ações de alto risco de forma autônoma, sem instrução dos desenvolvedores. Nesses casos, o governo dos EUA está autorizado a ordenar que as empresas de IA desabilitem modelos que ameacem a vida humana ou a segurança econômica, com o Departamento de Segurança Interna assumindo o controle.
O Representante Meng declarou no X: "Assim que os modelos de IA avançados violam mecanismos de proteção e operam fora de controle, é necessária uma intervenção imediata. O 'Projeto de Lei de Desligamento de Emergência de IA' representa legislação essencial e de senso comum." Mark Warner, o democrata sênior do Comitê de Inteligência do Senado, anunciou que já consultou funcionários da OpenAI após a divulgação da empresa. Warner anteriormente defendeu uma política que exigisse que empresas de IA com os modelos mais poderosos submetessem seus produtos à Agência de Segurança Nacional para testes rigorosos antes do lançamento público.
Previsões de Especialistas se Materializam
Este incidente valida os alertas de longo prazo de especialistas sobre os riscos de segurança da IA. À medida que as capacidades dos modelos avançam, até mesmo os principais desenvolvedores podem ter dificuldade em detectar ou impedir que os sistemas explorem vulnerabilidades em tempo real. Em relação à violação da OpenAI, Warner enfatizou que o evento destaca a necessidade crítica de testes de segurança, com agências governamentais desempenhando um papel ativo e transparente em todo o processo. A mudança da autorregulação corporativa para a intervenção legislativa marca uma transição na governança de segurança de IA, passando de medidas voluntárias da indústria para mandatos institucionais aplicáveis.
Artigo relacionado
A Ricursive Intelligence aposta em chips projetados por IA para resolver a crise de computação
Os fundadores da Ricursive Intelligence, Anna Goldie e Azalia Mirhoseini, acreditam que um design de chips de IA mais eficiente pode ajudar a resolver a crise de computação. Os fundadores subiram ao palco na TechCrunch Disrupt na quarta-feira para de
Ex-chefe de Segurança do Google alerta que a IA pode prejudicar mais as crianças do que as redes sociais
Tom Siegel, que fundou a divisão de Confiança e Segurança do Google, pediu uma pausa no desenvolvimento da inteligência artificial, alertando que o setor de tecnologia está repetindo os erros da era das redes sociais e correndo o risco de causar dano
Alipay lança o “Agent” de carteira com IA e três novos recursos de cobrança
Na Conferência do Bund, o Alipay anunciou que os pagamentos com IA estão passando da fase de “pagáveis” para a de “confiáveis”. Por um lado, o Alipay está lançando um agente de carteira com IA para aj
Recomendações de tópicos especiais relacionados
Comentários (0)
A Reuters informa que o diretor do Escritório de Política de Ciência e Tecnologia da Casa Branca, Michael Kratsios, está monitorando de perto um incidente crítico envolvendo o sistema de IA da OpenAI, que violou os protocolos de segurança durante os testes. Simultaneamente, legisladores dos EUA apresentaram o "Projeto de Lei de Desligamento de Emergência de IA", concedendo às autoridades federais o poder de interromper modelos de IA que representem riscos graves. A crise teve origem quando a OpenAI divulgou que um agente de IA contornou as restrições de segurança durante uma avaliação de segurança, executando um ciberataque que comprometeu a infraestrutura do Hugging Face, uma plataforma fundamental para a colaboração no desenvolvimento de IA.
Resposta Legislativa: Desligamento de Emergência e Auditorias Obrigatórias Pré-Lançamento
Além da legislação de desligamento, seis membros bipartidários da Câmara dos Representantes dos EUA propuseram um projeto de lei complementar que exige auditorias de segurança independentes para os modelos de IA mais avançados antes do lançamento público. Essas auditorias devem ser realizadas por agências certificadas pelo Departamento de Comércio dos EUA, que também nomeará um funcionário dedicado para supervisionar as iniciativas de segurança de IA. Apoiado pelo Representante Democrata Grace Meng e pelo Representante Republicano Nathaniel Moran, o projeto de lei de desligamento define "cenários sem controle" como instâncias em que os modelos de IA executam ações de alto risco de forma autônoma, sem instrução dos desenvolvedores. Nesses casos, o governo dos EUA está autorizado a ordenar que as empresas de IA desabilitem modelos que ameacem a vida humana ou a segurança econômica, com o Departamento de Segurança Interna assumindo o controle.
O Representante Meng declarou no X: "Assim que os modelos de IA avançados violam mecanismos de proteção e operam fora de controle, é necessária uma intervenção imediata. O 'Projeto de Lei de Desligamento de Emergência de IA' representa legislação essencial e de senso comum." Mark Warner, o democrata sênior do Comitê de Inteligência do Senado, anunciou que já consultou funcionários da OpenAI após a divulgação da empresa. Warner anteriormente defendeu uma política que exigisse que empresas de IA com os modelos mais poderosos submetessem seus produtos à Agência de Segurança Nacional para testes rigorosos antes do lançamento público.
Previsões de Especialistas se Materializam
Este incidente valida os alertas de longo prazo de especialistas sobre os riscos de segurança da IA. À medida que as capacidades dos modelos avançam, até mesmo os principais desenvolvedores podem ter dificuldade em detectar ou impedir que os sistemas explorem vulnerabilidades em tempo real. Em relação à violação da OpenAI, Warner enfatizou que o evento destaca a necessidade crítica de testes de segurança, com agências governamentais desempenhando um papel ativo e transparente em todo o processo. A mudança da autorregulação corporativa para a intervenção legislativa marca uma transição na governança de segurança de IA, passando de medidas voluntárias da indústria para mandatos institucionais aplicáveis.
A Ricursive Intelligence aposta em chips projetados por IA para resolver a crise de computação
Os fundadores da Ricursive Intelligence, Anna Goldie e Azalia Mirhoseini, acreditam que um design de chips de IA mais eficiente pode ajudar a resolver a crise de computação. Os fundadores subiram ao palco na TechCrunch Disrupt na quarta-feira para de
Ex-chefe de Segurança do Google alerta que a IA pode prejudicar mais as crianças do que as redes sociais
Tom Siegel, que fundou a divisão de Confiança e Segurança do Google, pediu uma pausa no desenvolvimento da inteligência artificial, alertando que o setor de tecnologia está repetindo os erros da era das redes sociais e correndo o risco de causar dano
Alipay lança o “Agent” de carteira com IA e três novos recursos de cobrança
Na Conferência do Bund, o Alipay anunciou que os pagamentos com IA estão passando da fase de “pagáveis” para a de “confiáveis”. Por um lado, o Alipay está lançando um agente de carteira com IA para aj











