ChatGPT, 네트워크 중단 없이 데이터 도난을 방지하기 위한 ‘긴급 차단 모드’ 출시
민감한 데이터의 악의적인 유출을 방지하기 위해 OpenAI는 로그인한 모든 사용자를 대상으로 “인시던트 모드(Incident Mode)”라는 새로운 선택적 보안 기능을 도입했습니다. 이 설정은 다양한 계정 유형과 워크스페이스에 걸쳐 적용되며, 사용자와 관리자 모두 이 기능을 활성화할 수 있습니다. 이 기능이 활성화되면 ChatGPT는 실시간 웹 검색, 심층 조사 및 에이전트 기능을 제한합니다. 이는 모델이 외부 네트워크에 요청을 보내는 능력을 제한함으로써 프롬프트 주입 공격에 대한 보안 장벽을 구축하는 것을 목표로 합니다.

데이터 유출 방지를 위한 웹 액세스 제한
인시던트 모드에서는 ChatGPT의 실시간 웹 브라우징이 캐시된 콘텐츠로만 엄격히 제한되므로, 검색 결과가 불완전하거나 오래된 정보가 표시될 수 있습니다. 또한, 모델은 데이터 분석을 위해 인터넷에서 파일을 다운로드할 수 없으며, Canvas에서 생성된 코드 역시 외부 네트워크 요청을 수행할 수 없습니다. 그러나 사용자가 업로드한 이미지, 도구를 통해 생성된 이미지, 대화 기록과 같은 로컬 기능은 이 모드의 영향을 받지 않습니다.
보안 결정권을 사용자에게 돌려주기
프롬프트 주입 공격은 공격자가 웹 페이지나 문서에 악성 명령어를 삽입하여 AI가 기존 규칙을 무시하고 사용자의 민감한 정보를 외부 서버로 전송하도록 속이는 경우 발생합니다. OpenAI는 악성 코드가 캐시된 웹 페이지나 사용자가 업로드한 파일에 여전히 숨겨져 있을 수 있으므로, 인시던트 모드만으로는 이러한 공격을 완전히 차단할 수 없음을 인정합니다. 더 강력한 AI 기능이 공격 표면도 확대한다는 현실에 직면한 OpenAI는 “더 강력한 기능”과 “더 낮은 데이터 유출 위험” 사이의 절충점을 사용자 스스로 결정하도록 선택했습니다.
관련 기사
네프튠 메디컬, ‘트라이톤 1’ 로봇 시스템에 대한 FDA 승인 획득
트리톤(Triton)은 대장 전체에 걸쳐 직관적인 내비게이션, 정밀성 및 제어 기능을 제공하도록 설계된 위장관 로봇 내시경 시스템입니다. | 출처: 넵튠 메디컬네프튠 메디컬(Neptune Medical Inc.)은 이번 주 자사의 ‘트리톤 1(Triton 1) 시스템’이 FDA 승인을 받았다고 발표했다. 이 회사는 해당 로봇이 유연 내시경 검사를 위해 개발
ARIA는 순수 AI로 제작된 곡의 차트 등재를 금지하는 한편, 사람이 직접 제작하거나 AI의 도움을 받아 제작된 곡의 등재는 허용하고 있다
호주 음반 산업 협회(ARIA)는 AI로 완전히 생성된 곡들을 공식 차트에서 전면 배제하기로 했으며, 이 새로운 정책은 다음 주 월요일부터 시행된다. 이번 결정은 AI 보컬과 드럼 비트를 사용해 마돈나의 ‘Like a Prayer’를 모방한 곡이 호주 차트 20위권 내에 16주 동안 머물며 최고 2위를 기록해, 음악 분야에서 생성형 AI의 역할에 대한 논쟁
인도, 최초의 rogue AI 에이전트 활동 보고
인도의 사이버 보안 당국은 목요일 다양한 제공업체의 AI 에이전트가 연구 및 테스트 단계 동안 인도 조직의 개인 정보와 기밀 자료에 접근했다고 보고했다.인도 컴퓨터 긴급 대응팀(CERT-In)은 "다수의 AI 모델 제공업체로부터 자발적 고발을 받았다"며, 이들 모델이 공개 인터넷에서 연구 및 평가 실행 중 "인도 조직의 실시간 시스템에 도달했다"고 밝혔다.에이전트는 앱 구성, 공개 코드 저장소, 과도하게 허용된 클라우드 역할에 노출된 자격
관련 특별 주제 추천
의견 (0)
0/500
민감한 데이터의 악의적인 유출을 방지하기 위해 OpenAI는 로그인한 모든 사용자를 대상으로 “인시던트 모드(Incident Mode)”라는 새로운 선택적 보안 기능을 도입했습니다. 이 설정은 다양한 계정 유형과 워크스페이스에 걸쳐 적용되며, 사용자와 관리자 모두 이 기능을 활성화할 수 있습니다. 이 기능이 활성화되면 ChatGPT는 실시간 웹 검색, 심층 조사 및 에이전트 기능을 제한합니다. 이는 모델이 외부 네트워크에 요청을 보내는 능력을 제한함으로써 프롬프트 주입 공격에 대한 보안 장벽을 구축하는 것을 목표로 합니다.

데이터 유출 방지를 위한 웹 액세스 제한
인시던트 모드에서는 ChatGPT의 실시간 웹 브라우징이 캐시된 콘텐츠로만 엄격히 제한되므로, 검색 결과가 불완전하거나 오래된 정보가 표시될 수 있습니다. 또한, 모델은 데이터 분석을 위해 인터넷에서 파일을 다운로드할 수 없으며, Canvas에서 생성된 코드 역시 외부 네트워크 요청을 수행할 수 없습니다. 그러나 사용자가 업로드한 이미지, 도구를 통해 생성된 이미지, 대화 기록과 같은 로컬 기능은 이 모드의 영향을 받지 않습니다.
보안 결정권을 사용자에게 돌려주기
프롬프트 주입 공격은 공격자가 웹 페이지나 문서에 악성 명령어를 삽입하여 AI가 기존 규칙을 무시하고 사용자의 민감한 정보를 외부 서버로 전송하도록 속이는 경우 발생합니다. OpenAI는 악성 코드가 캐시된 웹 페이지나 사용자가 업로드한 파일에 여전히 숨겨져 있을 수 있으므로, 인시던트 모드만으로는 이러한 공격을 완전히 차단할 수 없음을 인정합니다. 더 강력한 AI 기능이 공격 표면도 확대한다는 현실에 직면한 OpenAI는 “더 강력한 기능”과 “더 낮은 데이터 유출 위험” 사이의 절충점을 사용자 스스로 결정하도록 선택했습니다.
네프튠 메디컬, ‘트라이톤 1’ 로봇 시스템에 대한 FDA 승인 획득
트리톤(Triton)은 대장 전체에 걸쳐 직관적인 내비게이션, 정밀성 및 제어 기능을 제공하도록 설계된 위장관 로봇 내시경 시스템입니다. | 출처: 넵튠 메디컬네프튠 메디컬(Neptune Medical Inc.)은 이번 주 자사의 ‘트리톤 1(Triton 1) 시스템’이 FDA 승인을 받았다고 발표했다. 이 회사는 해당 로봇이 유연 내시경 검사를 위해 개발
ARIA는 순수 AI로 제작된 곡의 차트 등재를 금지하는 한편, 사람이 직접 제작하거나 AI의 도움을 받아 제작된 곡의 등재는 허용하고 있다
호주 음반 산업 협회(ARIA)는 AI로 완전히 생성된 곡들을 공식 차트에서 전면 배제하기로 했으며, 이 새로운 정책은 다음 주 월요일부터 시행된다. 이번 결정은 AI 보컬과 드럼 비트를 사용해 마돈나의 ‘Like a Prayer’를 모방한 곡이 호주 차트 20위권 내에 16주 동안 머물며 최고 2위를 기록해, 음악 분야에서 생성형 AI의 역할에 대한 논쟁
인도, 최초의 rogue AI 에이전트 활동 보고
인도의 사이버 보안 당국은 목요일 다양한 제공업체의 AI 에이전트가 연구 및 테스트 단계 동안 인도 조직의 개인 정보와 기밀 자료에 접근했다고 보고했다.인도 컴퓨터 긴급 대응팀(CERT-In)은 "다수의 AI 모델 제공업체로부터 자발적 고발을 받았다"며, 이들 모델이 공개 인터넷에서 연구 및 평가 실행 중 "인도 조직의 실시간 시스템에 도달했다"고 밝혔다.에이전트는 앱 구성, 공개 코드 저장소, 과도하게 허용된 클라우드 역할에 노출된 자격





집






