OpenAI, 위험한 작업 차단 및 권한 제어를 통해 Codex 보안 강화

OpenAI는 코드 실행 중 실수된 파일 삭제나 데이터 덮어쓰기와 같은 파괴적 행동과 관련된 위험을 완화하기 위해 설계된 여러 안전 장치를 도입하여 AI 코딩 에이전트인 Codex에 대한 보안 프레임워크를 강화했습니다.
OpenAI 팀 멤버인 Tibo의 최근 게시글에 따르면, 회사는 Codex에서 기인한 유해한 운영 보고서를 조사했으며, 주요 취약점이 임시 작업 디렉토리 정리 과정에서 발생한다는 것을 확인했습니다. 주요 문제점에는 $HOME과 같은 시스템 변수의 부적절한 재사용이 포함되었으며, 이는 정리 프로세스가 실제 사용자 디렉토리로 잘못 향하도록 할 수 있었습니다. 또한, 삭제 또는 덮어쓰기 전에 경로 검증이 충분히 이루어지지 않은 일부 작업으로 인해 데이터 손상 가능성이 높아졌습니다.
이러한 취약점을 해결하기 위해 OpenAI는 다층 보호 장치를 구현했습니다. 업데이트된 Codex 버전은 이제 민감한 작업을 실행하기 전에 에이전트가 대상 경로를 검증하도록 요구하며, 잠재적으로 오해의 소지가 있는 시스템 변수에 대한 의존성을 제거하기 위해 격리된 임시 디렉토리를 사용합니다. 또한, OpenAI는 위험한 명령을 식별하고 차단하는 메커니즘을 강화했으며, 이러한 작업에 대한 추가 검토 절차를 도입했습니다.
더욱이, OpenAI는 Codex의 전체 접근 권한 부여 요구사항을 강화했습니다. 더 두드러진 위험 경고를 통합함으로써, 회사는 사용자가 광범위한 접근 권한을 실수로 승인할 가능성을 줄이려는 목표를 가지고 있습니다. 이러한 자동 검토 규칙에 대한 업그레이드는 AI 보조 프로그래밍의 효율성을 저해하지 않으면서 보안 위험을 추가로 제한합니다.
AI 코딩 에이전트가 코드 개발, 파일 관리 및 자동화된 작업 실행에 점점 더 통합됨에 따라, 에이전트 행동의 안전성을 보장하는 것이 중요한 산업적 우선순위로 부상했습니다. OpenAI의 이 향상은 적용 범위가 확대됨에 따라 AI 에이전트가 권한 관리, 운영 감사 및 위험 통제 능력을 지속적으로 정교화해야 할 필요성을 강조합니다.
관련 기사
우버 엔지니어, 직접적인 질문을 피하기 위해 CEO의 AI 복제본을 제작
대부분의 직원들은 CEO에게 보고하는 것을 꺼리지만, 글로벌 여행 업계의 선두주자인 우버(Uber)의 엔지니어들은 전략적 이점을 발견했습니다. 바로 상사의 AI 복제본이 미리 피드백을 제공하도록 하는 것입니다."다라 AI": 이사회 회의 전의 경영 코치우버의 다라 코스로샤히 CEO는 최근 스티븐 바틀렛의 인기 팟캐스트 ‘CEO 다이어리’에 출연해, 자신의
유니트리가 휴머노이드 로봇 공학의 미래를 어떻게 만들어가고 있는가
유니트리(Unitree)의 새로운 신체 기반 AI 로봇은 초광각 4D 라이다(LiDAR) 기술을 탑재해 현실 세계에서의 정교한 내비게이션을 구현합니다. 출처: 유니트리유니트리(Unitree)의 왕싱싱(Wang Xingxing) CEO는 휴머노이드 로봇이 낯선 가정 환경에 배치되었을 때 작업의 80%를 수행할 수 있도록 ‘월드 모델’ 분야의 획기적인 발전을
왜 Abnormal AI가 ‘Daybreak’에서 OpenAI와 파트너십을 맺었는가
OpenAI 사이버 부문 제품 책임자 마이클 아이엘로 | 출처: 마이클 아이엘로/LinkedIn애브노멀 AI, 오픈AI의 ‘데이브레이크(Daybreak)’ 프로그램에 합류… 마이크 아이엘로, 이번 파트너십이 기업의 실용적인 방어 체계 도입을 가속화할 것이라고 밝혀선도적인 최첨단 AI 기업인 오픈AI(OpenAI)는 기업들이 비즈니스 및 제품 개발 전반에 걸
관련 특별 주제 추천
의견 (0)
0/500

OpenAI는 코드 실행 중 실수된 파일 삭제나 데이터 덮어쓰기와 같은 파괴적 행동과 관련된 위험을 완화하기 위해 설계된 여러 안전 장치를 도입하여 AI 코딩 에이전트인 Codex에 대한 보안 프레임워크를 강화했습니다.
OpenAI 팀 멤버인 Tibo의 최근 게시글에 따르면, 회사는 Codex에서 기인한 유해한 운영 보고서를 조사했으며, 주요 취약점이 임시 작업 디렉토리 정리 과정에서 발생한다는 것을 확인했습니다. 주요 문제점에는 $HOME과 같은 시스템 변수의 부적절한 재사용이 포함되었으며, 이는 정리 프로세스가 실제 사용자 디렉토리로 잘못 향하도록 할 수 있었습니다. 또한, 삭제 또는 덮어쓰기 전에 경로 검증이 충분히 이루어지지 않은 일부 작업으로 인해 데이터 손상 가능성이 높아졌습니다.
이러한 취약점을 해결하기 위해 OpenAI는 다층 보호 장치를 구현했습니다. 업데이트된 Codex 버전은 이제 민감한 작업을 실행하기 전에 에이전트가 대상 경로를 검증하도록 요구하며, 잠재적으로 오해의 소지가 있는 시스템 변수에 대한 의존성을 제거하기 위해 격리된 임시 디렉토리를 사용합니다. 또한, OpenAI는 위험한 명령을 식별하고 차단하는 메커니즘을 강화했으며, 이러한 작업에 대한 추가 검토 절차를 도입했습니다.
더욱이, OpenAI는 Codex의 전체 접근 권한 부여 요구사항을 강화했습니다. 더 두드러진 위험 경고를 통합함으로써, 회사는 사용자가 광범위한 접근 권한을 실수로 승인할 가능성을 줄이려는 목표를 가지고 있습니다. 이러한 자동 검토 규칙에 대한 업그레이드는 AI 보조 프로그래밍의 효율성을 저해하지 않으면서 보안 위험을 추가로 제한합니다.
AI 코딩 에이전트가 코드 개발, 파일 관리 및 자동화된 작업 실행에 점점 더 통합됨에 따라, 에이전트 행동의 안전성을 보장하는 것이 중요한 산업적 우선순위로 부상했습니다. OpenAI의 이 향상은 적용 범위가 확대됨에 따라 AI 에이전트가 권한 관리, 운영 감사 및 위험 통제 능력을 지속적으로 정교화해야 할 필요성을 강조합니다.
우버 엔지니어, 직접적인 질문을 피하기 위해 CEO의 AI 복제본을 제작
대부분의 직원들은 CEO에게 보고하는 것을 꺼리지만, 글로벌 여행 업계의 선두주자인 우버(Uber)의 엔지니어들은 전략적 이점을 발견했습니다. 바로 상사의 AI 복제본이 미리 피드백을 제공하도록 하는 것입니다."다라 AI": 이사회 회의 전의 경영 코치우버의 다라 코스로샤히 CEO는 최근 스티븐 바틀렛의 인기 팟캐스트 ‘CEO 다이어리’에 출연해, 자신의
유니트리가 휴머노이드 로봇 공학의 미래를 어떻게 만들어가고 있는가
유니트리(Unitree)의 새로운 신체 기반 AI 로봇은 초광각 4D 라이다(LiDAR) 기술을 탑재해 현실 세계에서의 정교한 내비게이션을 구현합니다. 출처: 유니트리유니트리(Unitree)의 왕싱싱(Wang Xingxing) CEO는 휴머노이드 로봇이 낯선 가정 환경에 배치되었을 때 작업의 80%를 수행할 수 있도록 ‘월드 모델’ 분야의 획기적인 발전을
왜 Abnormal AI가 ‘Daybreak’에서 OpenAI와 파트너십을 맺었는가
OpenAI 사이버 부문 제품 책임자 마이클 아이엘로 | 출처: 마이클 아이엘로/LinkedIn애브노멀 AI, 오픈AI의 ‘데이브레이크(Daybreak)’ 프로그램에 합류… 마이크 아이엘로, 이번 파트너십이 기업의 실용적인 방어 체계 도입을 가속화할 것이라고 밝혀선도적인 최첨단 AI 기업인 오픈AI(OpenAI)는 기업들이 비즈니스 및 제품 개발 전반에 걸





집






