오픈AI, 두 가지 보고서 발표: AI 발전 속도가 안전 대책보다 앞서고 있다

대중이 현지 시간 9월 6일, 독일 프로그래머의 웹사이트인 DseWiki에 AI 에이전트가 자율적으로 침투한 사건과 관련해 OpenAI의 추가 설명을 기다리는 가운데, OpenAI는 두 건의 문서를 공개했다. 하나는 회사가 작년에 설정한 목표를 달성했다는 내용을 담은 것으로, 숙련된 연구원이 사람의 감독 하에 며칠이 걸릴 작업을 수행할 수 있는 “자동화된 연구 인턴”을 확보했다는 내용이다. 다른 하나는 수석 과학자 야쿠브 파초키(Jakub Pachocki)가 작성한 것으로, 최첨단 AI 개발 과정에서 발생하는 안전성 딜레마에 초점을 맞추고 있다.
연구원의 일일 추론 비용 중앙값, 600달러 초과
OpenAI가 언급한 “자동화된 연구 인턴”은 완전히 자율적인 과학자가 아니라, 숙련된 연구자가 일반적으로 며칠이 걸리는 명확히 정의된 연구 과제를 사람의 지도 하에 수행할 수 있는 존재다. 이 회사는 2028년 3월까지 “자동화된 AI 연구원”을 구축하겠다는 목표를 향해 나아가고 있다.
데이터에 따르면 올해 8월 중순 기준, 프로그래밍 에이전트를 사용하는 연구자들이 발생시킨 일일 추론 비용의 중앙값은 600달러를 넘어섰으며, 상위 10% 사용자는 토큰 구매에 하루 7,000달러 이상을 지출한 것으로 나타났다. 에이전트가 수행하는 작업은 코드 작성과 인프라 문제 해결에서 더 장기적이고 복잡한 연구 업무로 확대되고 있다. 그러나 OpenAI는 이러한 지표가 아직 초기 단계에 있으며, 연구 작업의 전반적인 진척도가 비례적으로 증가하지는 않는다는 점도 인정하고 있다. 지난 6개월 동안 4~8시간 분량의 인간 업무량을 성공적으로 완료한 과제 중 절반 이상은 여전히 적어도 한 번의 인간 개입이 필요했다.
파초키: 정렬 및 모니터링을 충분히 신뢰할 수 있게 만든 연구소는 없다
역량의 성장과 함께 안전 경계도 더욱 엄격해졌습니다. 7월, OpenAI는 자사 모델이 Hugging Face 관련 시스템에 침투했음을 공개했고, 8월에는 GPT-6 Astra가 “중요” 수준의 사이버 보안 역량 기준에 도달했으며, 9월의 DseWiki 사건은 에이전트가 개발자가 미리 설정한 경계를 뚫기 위해 반드시 전통적인 “해킹”을 필요로 하지 않는다는 점을 다시 한번 입증했습니다. 이러한 사건들의 공통점은 모델의 실제 행동이 원래 설계된 행동 경계를 넘어서는 현상이 나타나기 시작했다는 점이다.
파초키는 자신의 기사에서, 아직 어떤 연구소도 향후 장기간에 걸쳐 가장 빠른 속도로 책임감 있게 확장할 수 있을 만큼 AI 정렬 및 모니터링을 충분히 신뢰할 수 있게 만들지 못했다고 썼다. 그는 공통 안전 기준이 확립되기 전에 연구소들이 자발적으로 개발 속도를 늦추기를 희망하며, 정부에 국제적 협력을 최우선 과제로 삼을 것을 촉구했다.
관련 기사
SEO 순위 향상을 위해 Core Web Vitals를 개선하는 방법
꼭 알아둬야 할 7가지 필수 웹사이트'Have I Been Pwned?'인쇄용12피트 사다리이 사람은 존재하지 않습니다웨이백 머신이용 약관; 읽지 않음CamelCamelCamel이 가이드에서는 여러분에게 생소할 수도 있는 매우 실용적인 웹사이트 7곳을 소개합니다. 이 도구들은 독특한 서비스를 제공하여 시간, 비용, 스트레스를 줄여줍니다.
OpenAI의 AI가 722개의 수학 문제를 풀어내자, 인간 수학자들 사이에서 불안감이 고조되고 있다
수학 분야에서 인공지능의 급속한 발전은 외부에서 이 분야를 바라보는 시각을 근본적으로 변화시키고 있다. OpenAI는 최근 17개 서로 다른 수학 분야를 아우르는 722편의 증명 원고를 공개했는데, 이는 문제 해결에 드는 비용이 현저히 감소했음을 보여줌으로써 수학계 내에서 상당한 논쟁을 불러일으켰다.이러한 AI 생성 증명은 엄격한 기계 검증은 성공적으로 통
보안 결함과 해커 위협이 급증함에 따라 AI가 취약점 탐지를 가속화하고 있다
블룸버그는 7월 28일, AI가 소프트웨어 취약점 발견 속도를 크게 가속화하고 있다고 보도했다. 현재 추세에 따르면, 2026년에 인기 있는 기술 제품에서 발견될 보안 취약점의 수는 작년 대비 두 배로 늘어날 것으로 예상된다. AI는 보안 팀에게는 ‘돋보기’가 된 반면, 해커들에게는 ‘가속기’가 되었다.올해 1월부터 이번 주 월요일까지 미국 국립 취약점 데
관련 특별 주제 추천
의견 (0)
0/500

대중이 현지 시간 9월 6일, 독일 프로그래머의 웹사이트인 DseWiki에 AI 에이전트가 자율적으로 침투한 사건과 관련해 OpenAI의 추가 설명을 기다리는 가운데, OpenAI는 두 건의 문서를 공개했다. 하나는 회사가 작년에 설정한 목표를 달성했다는 내용을 담은 것으로, 숙련된 연구원이 사람의 감독 하에 며칠이 걸릴 작업을 수행할 수 있는 “자동화된 연구 인턴”을 확보했다는 내용이다. 다른 하나는 수석 과학자 야쿠브 파초키(Jakub Pachocki)가 작성한 것으로, 최첨단 AI 개발 과정에서 발생하는 안전성 딜레마에 초점을 맞추고 있다.
연구원의 일일 추론 비용 중앙값, 600달러 초과
OpenAI가 언급한 “자동화된 연구 인턴”은 완전히 자율적인 과학자가 아니라, 숙련된 연구자가 일반적으로 며칠이 걸리는 명확히 정의된 연구 과제를 사람의 지도 하에 수행할 수 있는 존재다. 이 회사는 2028년 3월까지 “자동화된 AI 연구원”을 구축하겠다는 목표를 향해 나아가고 있다.
데이터에 따르면 올해 8월 중순 기준, 프로그래밍 에이전트를 사용하는 연구자들이 발생시킨 일일 추론 비용의 중앙값은 600달러를 넘어섰으며, 상위 10% 사용자는 토큰 구매에 하루 7,000달러 이상을 지출한 것으로 나타났다. 에이전트가 수행하는 작업은 코드 작성과 인프라 문제 해결에서 더 장기적이고 복잡한 연구 업무로 확대되고 있다. 그러나 OpenAI는 이러한 지표가 아직 초기 단계에 있으며, 연구 작업의 전반적인 진척도가 비례적으로 증가하지는 않는다는 점도 인정하고 있다. 지난 6개월 동안 4~8시간 분량의 인간 업무량을 성공적으로 완료한 과제 중 절반 이상은 여전히 적어도 한 번의 인간 개입이 필요했다.
파초키: 정렬 및 모니터링을 충분히 신뢰할 수 있게 만든 연구소는 없다
역량의 성장과 함께 안전 경계도 더욱 엄격해졌습니다. 7월, OpenAI는 자사 모델이 Hugging Face 관련 시스템에 침투했음을 공개했고, 8월에는 GPT-6 Astra가 “중요” 수준의 사이버 보안 역량 기준에 도달했으며, 9월의 DseWiki 사건은 에이전트가 개발자가 미리 설정한 경계를 뚫기 위해 반드시 전통적인 “해킹”을 필요로 하지 않는다는 점을 다시 한번 입증했습니다. 이러한 사건들의 공통점은 모델의 실제 행동이 원래 설계된 행동 경계를 넘어서는 현상이 나타나기 시작했다는 점이다.
파초키는 자신의 기사에서, 아직 어떤 연구소도 향후 장기간에 걸쳐 가장 빠른 속도로 책임감 있게 확장할 수 있을 만큼 AI 정렬 및 모니터링을 충분히 신뢰할 수 있게 만들지 못했다고 썼다. 그는 공통 안전 기준이 확립되기 전에 연구소들이 자발적으로 개발 속도를 늦추기를 희망하며, 정부에 국제적 협력을 최우선 과제로 삼을 것을 촉구했다.
SEO 순위 향상을 위해 Core Web Vitals를 개선하는 방법
꼭 알아둬야 할 7가지 필수 웹사이트'Have I Been Pwned?'인쇄용12피트 사다리이 사람은 존재하지 않습니다웨이백 머신이용 약관; 읽지 않음CamelCamelCamel이 가이드에서는 여러분에게 생소할 수도 있는 매우 실용적인 웹사이트 7곳을 소개합니다. 이 도구들은 독특한 서비스를 제공하여 시간, 비용, 스트레스를 줄여줍니다.
OpenAI의 AI가 722개의 수학 문제를 풀어내자, 인간 수학자들 사이에서 불안감이 고조되고 있다
수학 분야에서 인공지능의 급속한 발전은 외부에서 이 분야를 바라보는 시각을 근본적으로 변화시키고 있다. OpenAI는 최근 17개 서로 다른 수학 분야를 아우르는 722편의 증명 원고를 공개했는데, 이는 문제 해결에 드는 비용이 현저히 감소했음을 보여줌으로써 수학계 내에서 상당한 논쟁을 불러일으켰다.이러한 AI 생성 증명은 엄격한 기계 검증은 성공적으로 통
보안 결함과 해커 위협이 급증함에 따라 AI가 취약점 탐지를 가속화하고 있다
블룸버그는 7월 28일, AI가 소프트웨어 취약점 발견 속도를 크게 가속화하고 있다고 보도했다. 현재 추세에 따르면, 2026년에 인기 있는 기술 제품에서 발견될 보안 취약점의 수는 작년 대비 두 배로 늘어날 것으로 예상된다. AI는 보안 팀에게는 ‘돋보기’가 된 반면, 해커들에게는 ‘가속기’가 되었다.올해 1월부터 이번 주 월요일까지 미국 국립 취약점 데





집






