A OpenAI reforça a segurança do ChatGPT contra a injeção de comandos
A OpenAI introduziu dois novos recursos avançados de segurança para o ChatGPT a fim de combater a crescente ameaça de ataques de injeção de prompts, que ocorrem quando sistemas de IA interagem com sites e aplicativos externos. Esses ataques podem permitir que agentes mal-intencionados manipulem a IA para que ela execute ações prejudiciais ou exponha dados confidenciais. Ambos os novos recursos reforçam as defesas existentes da plataforma, incluindo seu ambiente sandbox, a prevenção de vazamento de dados de URL e outros protocolos de segurança em várias camadas.

O primeiro recurso é o Modo de Bloqueio, uma configuração opcional e avançada projetada para usuários com requisitos de segurança rigorosos, em vez do usuário comum. Ele reduz significativamente o risco de vazamentos de dados ao impor controles rígidos sobre como o ChatGPT se comunica com sistemas externos. Esse modo desativa ou restringe proativamente ferramentas que são vetores de ataque em potencial. Por exemplo, o recurso de navegação na web acessará apenas conteúdo armazenado em cache, e funcionalidades sem garantias de segurança robustas serão desativadas completamente.
Atualmente, esse modo está disponível para as edições ChatGPT Enterprise, Education, Healthcare e Teacher. Os administradores podem ativá-lo criando funções específicas nas configurações do painel, onde também podem definir com precisão quais aplicativos externos e ações são permitidos enquanto o Modo de Bloqueio estiver ativo. A OpenAI planeja disponibilizar esse modo para usuários comuns nos próximos meses. Além disso, a Plataforma de Logs da API de Conformidade auxilia os administradores na realização de auditorias regulatórias sobre o uso de aplicativos e práticas de compartilhamento de dados.
A segunda medida envolve marcar consistentemente as funções de maior risco no ChatGPT, ChatGPT Atlas e Codex com um rótulo de **"Risco Elevado"**, padronizando a forma como as ameaças potenciais são comunicadas aos usuários.
A OpenAI explicou que certos recursos conectados à internet, embora aumentem a utilidade da IA, ainda apresentam riscos não totalmente mitigados pelas salvaguardas atuais do setor. Essa etiqueta oferece visibilidade clara desses riscos, capacitando os usuários a tomar decisões informadas sobre o uso dos recursos, especialmente em situações envolvendo informações confidenciais. Por exemplo, quando os desenvolvedores habilitarem o acesso à internet para o Codex, a etiqueta aparecerá na interface, detalhando as mudanças que isso traz, os perigos potenciais, os casos de uso apropriados e as recomendações para reduzir o risco.
Artigo relacionado
Stripe vai adquirir a OpenRouter à medida que o roteamento baseado em modelos de IA ganha força
A Stripe concordou em adquirir a OpenRouter, uma plataforma de roteamento de modelos de IA que oferece aos desenvolvedores acesso a centenas de modelos por meio de uma única interface. O acordo amplia
O ex-pesquisador da OpenAI, Barrett Zoph, retorna ao Google para apoiar o desenvolvimento do Gemini
Barret Zoph, que anteriormente havia deixado a empresa de forma repentina e se juntado à OpenAI devido a um desentendimento com a CEO da Thinking Machines Lab, Miriam Mularati, mudou de emprego mais u
Como a Recursive Intelligence levantou US$ 335 milhões com uma avaliação de US$ 4 bilhões em 4 meses
As cofundadoras da startup Ricursive Intelligence pareciam destinadas a serem cofundadoras.Anna Goldie, CEO, e Azalia Mirhoseini, CTO, são tão conhecidas na comunidade de IA que estavam entre os engen
Recomendações de tópicos especiais relacionados
Comentários (0)
A OpenAI introduziu dois novos recursos avançados de segurança para o ChatGPT a fim de combater a crescente ameaça de ataques de injeção de prompts, que ocorrem quando sistemas de IA interagem com sites e aplicativos externos. Esses ataques podem permitir que agentes mal-intencionados manipulem a IA para que ela execute ações prejudiciais ou exponha dados confidenciais. Ambos os novos recursos reforçam as defesas existentes da plataforma, incluindo seu ambiente sandbox, a prevenção de vazamento de dados de URL e outros protocolos de segurança em várias camadas.

O primeiro recurso é o Modo de Bloqueio, uma configuração opcional e avançada projetada para usuários com requisitos de segurança rigorosos, em vez do usuário comum. Ele reduz significativamente o risco de vazamentos de dados ao impor controles rígidos sobre como o ChatGPT se comunica com sistemas externos. Esse modo desativa ou restringe proativamente ferramentas que são vetores de ataque em potencial. Por exemplo, o recurso de navegação na web acessará apenas conteúdo armazenado em cache, e funcionalidades sem garantias de segurança robustas serão desativadas completamente.
Atualmente, esse modo está disponível para as edições ChatGPT Enterprise, Education, Healthcare e Teacher. Os administradores podem ativá-lo criando funções específicas nas configurações do painel, onde também podem definir com precisão quais aplicativos externos e ações são permitidos enquanto o Modo de Bloqueio estiver ativo. A OpenAI planeja disponibilizar esse modo para usuários comuns nos próximos meses. Além disso, a Plataforma de Logs da API de Conformidade auxilia os administradores na realização de auditorias regulatórias sobre o uso de aplicativos e práticas de compartilhamento de dados.
A segunda medida envolve marcar consistentemente as funções de maior risco no ChatGPT, ChatGPT Atlas e Codex com um rótulo de **"Risco Elevado"**, padronizando a forma como as ameaças potenciais são comunicadas aos usuários.
A OpenAI explicou que certos recursos conectados à internet, embora aumentem a utilidade da IA, ainda apresentam riscos não totalmente mitigados pelas salvaguardas atuais do setor. Essa etiqueta oferece visibilidade clara desses riscos, capacitando os usuários a tomar decisões informadas sobre o uso dos recursos, especialmente em situações envolvendo informações confidenciais. Por exemplo, quando os desenvolvedores habilitarem o acesso à internet para o Codex, a etiqueta aparecerá na interface, detalhando as mudanças que isso traz, os perigos potenciais, os casos de uso apropriados e as recomendações para reduzir o risco.
Stripe vai adquirir a OpenRouter à medida que o roteamento baseado em modelos de IA ganha força
A Stripe concordou em adquirir a OpenRouter, uma plataforma de roteamento de modelos de IA que oferece aos desenvolvedores acesso a centenas de modelos por meio de uma única interface. O acordo amplia
O ex-pesquisador da OpenAI, Barrett Zoph, retorna ao Google para apoiar o desenvolvimento do Gemini
Barret Zoph, que anteriormente havia deixado a empresa de forma repentina e se juntado à OpenAI devido a um desentendimento com a CEO da Thinking Machines Lab, Miriam Mularati, mudou de emprego mais u
Como a Recursive Intelligence levantou US$ 335 milhões com uma avaliação de US$ 4 bilhões em 4 meses
As cofundadoras da startup Ricursive Intelligence pareciam destinadas a serem cofundadoras.Anna Goldie, CEO, e Azalia Mirhoseini, CTO, são tão conhecidas na comunidade de IA que estavam entre os engen





Lar






