Lar
O ChatGPT lança o Modo de Bloqueio de Emergência para impedir o roubo de dados sem a necessidade de desligar a rede
Para ajudar a prevenir o roubo malicioso de dados confidenciais, a OpenAI introduziu um novo recurso de segurança opcional chamado “Modo de Incidente” para todos os usuários conectados. Essa configuração se aplica a diferentes tipos de contas e espaços de trabalho, e tanto os usuários quanto os administradores podem optar por ativá-la. Uma vez ativado, o ChatGPT restringirá sua pesquisa na web em tempo real, pesquisas aprofundadas e recursos de agente. O objetivo é criar uma barreira de segurança contra ataques de injeção de prompts, limitando a capacidade do modelo de fazer solicitações à rede externa.

Limitação do acesso à web para evitar vazamentos de dados
No Modo de Incidente, a navegação na web em tempo real do ChatGPT é estritamente limitada apenas ao conteúdo armazenado em cache, o que pode levar a resultados de pesquisa incompletos ou desatualizados. Além disso, o modelo não pode baixar arquivos da internet para análise de dados, e o código gerado pelo Canvas também está proibido de fazer solicitações de rede externas. No entanto, recursos locais, como imagens enviadas pelos usuários, imagens geradas com ferramentas e o histórico de conversas, não são afetados por esse modo.
Devolvendo as decisões de segurança aos usuários
Um ataque de injeção de prompt ocorre quando invasores incorporam instruções maliciosas em páginas da web ou documentos, levando a IA a ignorar suas regras existentes e enviar informações confidenciais dos usuários para servidores externos. A OpenAI reconhece que o Modo de Incidente não pode eliminar completamente tais ataques, já que códigos maliciosos ainda podem estar ocultos em páginas da web armazenadas em cache ou em arquivos enviados pelos usuários. Diante da realidade de que recursos de IA mais poderosos também ampliam a superfície de ataque, a OpenAI opta por deixar a escolha entre “funcionalidade mais robusta” e “menor risco de vazamento de dados” a cargo dos próprios usuários.
Artigo relacionado
A Neptune Medical obtém aprovação da FDA para o sistema robótico Triton 1
O Triton é um sistema robótico de endoscopia gastrointestinal projetado para oferecer navegação intuitiva, precisão e controle em todo o cólon. | Fonte: Neptune MedicalA Neptune Medical Inc. anunciou
A ARIA proíbe músicas criadas exclusivamente por IA nas paradas, ao mesmo tempo em que permite faixas criadas por humanos e com auxílio de IA
A Associação Australiana da Indústria Fonográfica (ARIA) baniu totalmente as músicas geradas por IA de suas paradas oficiais, e a nova política entrará em vigor na próxima segunda-feira. A decisão vem
Índia relata a primeira atividade já registrada de um agente de IA mal-intencionado
A autoridade de segurança cibernética da Índia informou nesta quinta-feira que agentes de IA de diversos fornecedores acessaram informações pessoais e materiais confidenciais em organizações indianas
Recomendações de tópicos especiais relacionados
Comentários (0)
Para ajudar a prevenir o roubo malicioso de dados confidenciais, a OpenAI introduziu um novo recurso de segurança opcional chamado “Modo de Incidente” para todos os usuários conectados. Essa configuração se aplica a diferentes tipos de contas e espaços de trabalho, e tanto os usuários quanto os administradores podem optar por ativá-la. Uma vez ativado, o ChatGPT restringirá sua pesquisa na web em tempo real, pesquisas aprofundadas e recursos de agente. O objetivo é criar uma barreira de segurança contra ataques de injeção de prompts, limitando a capacidade do modelo de fazer solicitações à rede externa.

Limitação do acesso à web para evitar vazamentos de dados
No Modo de Incidente, a navegação na web em tempo real do ChatGPT é estritamente limitada apenas ao conteúdo armazenado em cache, o que pode levar a resultados de pesquisa incompletos ou desatualizados. Além disso, o modelo não pode baixar arquivos da internet para análise de dados, e o código gerado pelo Canvas também está proibido de fazer solicitações de rede externas. No entanto, recursos locais, como imagens enviadas pelos usuários, imagens geradas com ferramentas e o histórico de conversas, não são afetados por esse modo.
Devolvendo as decisões de segurança aos usuários
Um ataque de injeção de prompt ocorre quando invasores incorporam instruções maliciosas em páginas da web ou documentos, levando a IA a ignorar suas regras existentes e enviar informações confidenciais dos usuários para servidores externos. A OpenAI reconhece que o Modo de Incidente não pode eliminar completamente tais ataques, já que códigos maliciosos ainda podem estar ocultos em páginas da web armazenadas em cache ou em arquivos enviados pelos usuários. Diante da realidade de que recursos de IA mais poderosos também ampliam a superfície de ataque, a OpenAI opta por deixar a escolha entre “funcionalidade mais robusta” e “menor risco de vazamento de dados” a cargo dos próprios usuários.
A Neptune Medical obtém aprovação da FDA para o sistema robótico Triton 1
O Triton é um sistema robótico de endoscopia gastrointestinal projetado para oferecer navegação intuitiva, precisão e controle em todo o cólon. | Fonte: Neptune MedicalA Neptune Medical Inc. anunciou
A ARIA proíbe músicas criadas exclusivamente por IA nas paradas, ao mesmo tempo em que permite faixas criadas por humanos e com auxílio de IA
A Associação Australiana da Indústria Fonográfica (ARIA) baniu totalmente as músicas geradas por IA de suas paradas oficiais, e a nova política entrará em vigor na próxima segunda-feira. A decisão vem
Índia relata a primeira atividade já registrada de um agente de IA mal-intencionado
A autoridade de segurança cibernética da Índia informou nesta quinta-feira que agentes de IA de diversos fornecedores acessaram informações pessoais e materiais confidenciais em organizações indianas











