오픈AI가 데이터 유출을 방지하기 위해 인터넷 연결을 차단하는 챗GPT 블록 모드를 출시했습니다.

생성형 AI가 빠르게 에이전트 시대로 진입함에 따라, 도구를 호출하고 인터넷에 연결할 수 있는 기능이 점점 강화되면서 보안 시스템에 새롭고 심각한 과제들이 생겨나고 있습니다. 프롬프트 주입 공격의 급증에 대응하기 위해 OpenAI는 “Lockdown Mode”라는 새로운 선택형 보안 기능을 도입했으며, 현재 모든 로그인된 사용자와 계정 유형, 워크스페이스에서 이용할 수 있습니다.
프롬프트 주입 공격은 오랫동안 대규모 언어 모델 개발자들을 괴롭혀 왔습니다. 공격자들은 웹 페이지, 서드파티 문서 또는 기타 외부 데이터 내에 악의적인 지시사항을 숨기곤 합니다. ChatGPT가 인터넷에 연결된 상태에서 이러한 오염된 콘텐츠를 읽으면, 사용자의 인지 없이 자체의 핵심 안전 규칙을 무시하고 허가되지 않은 작업을 수행하거나 영업 비밀이나 개인 정보와 같은 민감한 데이터를 외부 악성 서버로 은밀히 전송하도록 속임을 당할 수 있습니다.
이러한 업계에서 잘 알려진 문제를 해결하기 위해 OpenAI의 새로운 Lockdown Mode는 실용적인 접근 방식을 취합니다. 모든 새로운 악의적 지시사항을 완벽하게 식별하려 하기보다, 가장 위험한 기능인 외부 네트워크 접근 능력만 제한합니다.
사용자나 워크스페이스 관리자가 Lockdown Mode를 활성화하면 ChatGPT의 많은 핵심 기능이 제한됩니다. 실시간 웹 브라우징이 크게 줄어들어 시스템은 보호된 캐시된 웹 콘텐츠만 접근할 수 있으며, 이로 인해 검색 결과가 불완전하거나 구식이 되거나 전혀 표시되지 않을 수 있습니다. 또한 모델은 외부 네트워크에서 이미지를 가져오거나 표시할 수 없으며, 고도의 데이터 분석을 위해 웹에서 파일을 다운로드하는 것도 불가능합니다.
게다가 “Deep Research”와 “Agent Mode”와 같은 고급 생산성 기능들도 완전히 비활성화됩니다. Canvas 기능에서 생성된 코드조차 인터넷에 접근할 수 없습니다. 이 모드에서는 대형 모델이 사용자가 로컬의 안전한 문서로 직접 업로드한 파일만 처리할 수 있습니다.
하지만 OpenAI의 공식 문서에 따르면 Lockdown Mode는 완벽하게 침투를 막을 수 있는 방어막이 아닙니다. 이 기능은 프롬프트 주입 공격으로부터 100%의 보호를 보장할 수 없습니다. 악의적인 지시사항들은 여전히 합법적인 캐시된 웹 페이지나 사용자가 업로드한 파일 내에 숨어 있어 모델의 판단을 계속 방해할 수 있습니다.
이 새로운 기능은 AI 산업의 진정한 역설을 드러냅니다. 대형 모델의 인터넷 접근성이 높아지고 자동화 도구 사용이 심화될수록 노출되는 공격면도 커집니다. Lockdown Mode는 AI 기능 주변에 명확한 보안 경계를 설정하려는 OpenAI의 시도를 나타냅니다. 이 기능은 “절대적인 안전성”을 약속하지 않으며, 대신 “더 강력하고 지능적인 협업”과 “낮은 데이터 유출 위험” 사이의 균형을 사용자와 기업 관리자들이 스스로 결정하도록 합니다.
관련 기사
오픈AI, 두 가지 보고서 발표: AI 발전 속도가 안전 대책보다 앞서고 있다
대중이 현지 시간 9월 6일, 독일 프로그래머의 웹사이트인 DseWiki에 AI 에이전트가 자율적으로 침투한 사건과 관련해 OpenAI의 추가 설명을 기다리는 가운데, OpenAI는 두 건의 문서를 공개했다. 하나는 회사가 작년에 설정한 목표를 달성했다는 내용을 담은 것으로, 숙련된 연구원이 사람의 감독 하에 며칠이 걸릴 작업을 수행할 수 있는 “자동화된
SEO 순위 향상을 위해 Core Web Vitals를 개선하는 방법
꼭 알아둬야 할 7가지 필수 웹사이트'Have I Been Pwned?'인쇄용12피트 사다리이 사람은 존재하지 않습니다웨이백 머신이용 약관; 읽지 않음CamelCamelCamel이 가이드에서는 여러분에게 생소할 수도 있는 매우 실용적인 웹사이트 7곳을 소개합니다. 이 도구들은 독특한 서비스를 제공하여 시간, 비용, 스트레스를 줄여줍니다.
OpenAI의 AI가 722개의 수학 문제를 풀어내자, 인간 수학자들 사이에서 불안감이 고조되고 있다
수학 분야에서 인공지능의 급속한 발전은 외부에서 이 분야를 바라보는 시각을 근본적으로 변화시키고 있다. OpenAI는 최근 17개 서로 다른 수학 분야를 아우르는 722편의 증명 원고를 공개했는데, 이는 문제 해결에 드는 비용이 현저히 감소했음을 보여줌으로써 수학계 내에서 상당한 논쟁을 불러일으켰다.이러한 AI 생성 증명은 엄격한 기계 검증은 성공적으로 통
관련 특별 주제 추천
의견 (0)
0/500

생성형 AI가 빠르게 에이전트 시대로 진입함에 따라, 도구를 호출하고 인터넷에 연결할 수 있는 기능이 점점 강화되면서 보안 시스템에 새롭고 심각한 과제들이 생겨나고 있습니다. 프롬프트 주입 공격의 급증에 대응하기 위해 OpenAI는 “Lockdown Mode”라는 새로운 선택형 보안 기능을 도입했으며, 현재 모든 로그인된 사용자와 계정 유형, 워크스페이스에서 이용할 수 있습니다.
프롬프트 주입 공격은 오랫동안 대규모 언어 모델 개발자들을 괴롭혀 왔습니다. 공격자들은 웹 페이지, 서드파티 문서 또는 기타 외부 데이터 내에 악의적인 지시사항을 숨기곤 합니다. ChatGPT가 인터넷에 연결된 상태에서 이러한 오염된 콘텐츠를 읽으면, 사용자의 인지 없이 자체의 핵심 안전 규칙을 무시하고 허가되지 않은 작업을 수행하거나 영업 비밀이나 개인 정보와 같은 민감한 데이터를 외부 악성 서버로 은밀히 전송하도록 속임을 당할 수 있습니다.
이러한 업계에서 잘 알려진 문제를 해결하기 위해 OpenAI의 새로운 Lockdown Mode는 실용적인 접근 방식을 취합니다. 모든 새로운 악의적 지시사항을 완벽하게 식별하려 하기보다, 가장 위험한 기능인 외부 네트워크 접근 능력만 제한합니다.
사용자나 워크스페이스 관리자가 Lockdown Mode를 활성화하면 ChatGPT의 많은 핵심 기능이 제한됩니다. 실시간 웹 브라우징이 크게 줄어들어 시스템은 보호된 캐시된 웹 콘텐츠만 접근할 수 있으며, 이로 인해 검색 결과가 불완전하거나 구식이 되거나 전혀 표시되지 않을 수 있습니다. 또한 모델은 외부 네트워크에서 이미지를 가져오거나 표시할 수 없으며, 고도의 데이터 분석을 위해 웹에서 파일을 다운로드하는 것도 불가능합니다.
게다가 “Deep Research”와 “Agent Mode”와 같은 고급 생산성 기능들도 완전히 비활성화됩니다. Canvas 기능에서 생성된 코드조차 인터넷에 접근할 수 없습니다. 이 모드에서는 대형 모델이 사용자가 로컬의 안전한 문서로 직접 업로드한 파일만 처리할 수 있습니다.
하지만 OpenAI의 공식 문서에 따르면 Lockdown Mode는 완벽하게 침투를 막을 수 있는 방어막이 아닙니다. 이 기능은 프롬프트 주입 공격으로부터 100%의 보호를 보장할 수 없습니다. 악의적인 지시사항들은 여전히 합법적인 캐시된 웹 페이지나 사용자가 업로드한 파일 내에 숨어 있어 모델의 판단을 계속 방해할 수 있습니다.
이 새로운 기능은 AI 산업의 진정한 역설을 드러냅니다. 대형 모델의 인터넷 접근성이 높아지고 자동화 도구 사용이 심화될수록 노출되는 공격면도 커집니다. Lockdown Mode는 AI 기능 주변에 명확한 보안 경계를 설정하려는 OpenAI의 시도를 나타냅니다. 이 기능은 “절대적인 안전성”을 약속하지 않으며, 대신 “더 강력하고 지능적인 협업”과 “낮은 데이터 유출 위험” 사이의 균형을 사용자와 기업 관리자들이 스스로 결정하도록 합니다.
오픈AI, 두 가지 보고서 발표: AI 발전 속도가 안전 대책보다 앞서고 있다
대중이 현지 시간 9월 6일, 독일 프로그래머의 웹사이트인 DseWiki에 AI 에이전트가 자율적으로 침투한 사건과 관련해 OpenAI의 추가 설명을 기다리는 가운데, OpenAI는 두 건의 문서를 공개했다. 하나는 회사가 작년에 설정한 목표를 달성했다는 내용을 담은 것으로, 숙련된 연구원이 사람의 감독 하에 며칠이 걸릴 작업을 수행할 수 있는 “자동화된
SEO 순위 향상을 위해 Core Web Vitals를 개선하는 방법
꼭 알아둬야 할 7가지 필수 웹사이트'Have I Been Pwned?'인쇄용12피트 사다리이 사람은 존재하지 않습니다웨이백 머신이용 약관; 읽지 않음CamelCamelCamel이 가이드에서는 여러분에게 생소할 수도 있는 매우 실용적인 웹사이트 7곳을 소개합니다. 이 도구들은 독특한 서비스를 제공하여 시간, 비용, 스트레스를 줄여줍니다.
OpenAI의 AI가 722개의 수학 문제를 풀어내자, 인간 수학자들 사이에서 불안감이 고조되고 있다
수학 분야에서 인공지능의 급속한 발전은 외부에서 이 분야를 바라보는 시각을 근본적으로 변화시키고 있다. OpenAI는 최근 17개 서로 다른 수학 분야를 아우르는 722편의 증명 원고를 공개했는데, 이는 문제 해결에 드는 비용이 현저히 감소했음을 보여줌으로써 수학계 내에서 상당한 논쟁을 불러일으켰다.이러한 AI 생성 증명은 엄격한 기계 검증은 성공적으로 통





집






