앤트로픽, 클로드 코드의 제어 범위를 확대하면서도 통제권을 유지

AI에 의존하는 개발자들에게 있어, 현재의 ‘감각적 코딩(vibe coding)’ 접근 방식은 대개 모든 행동을 면밀히 모니터링하거나 모델에 전적인 재량권을 부여하는 두 가지 중 하나를 수반합니다. Anthropic은 Claude의 최신 업데이트를 통해 AI가 특정 범위 내에서 어떤 행동이 안전하게 실행될 수 있는지 자율적으로 결정할 수 있게 함으로써 이러한 딜레마를 해소했다고 주장합니다.
이러한 움직임은 모든 단계에서 사람의 승인을 받지 않고도 작동하도록 AI 도구가 개발되고 있는 업계 전반의 추세를 반영합니다. 핵심 과제는 속도와 감독 간의 균형을 맞추는 것입니다. 과도한 안전 장치는 진행 속도를 늦추는 반면, 안전 장치가 너무 부족하면 예측 불가능하고 위험한 행동으로 이어질 수 있습니다. 현재 연구용 프리뷰 단계(즉, 테스트는 가능하지만 아직 최종 제품이 아닌 상태)에 있는 Anthropic의 새로운 ‘자동 모드’는 이러한 균형을 모색하기 위한 최신 시도입니다.
오토 모드는 AI 안전 장치를 활용해 실행 전 각 행동을 검토하며, 요청되지 않은 위험한 행동과 프롬프트 주입(prompt injection)의 징후를 탐지합니다. 프롬프트 주입이란 처리 중인 콘텐츠에 악의적인 지시를 삽입하여 AI가 의도하지 않은 행동을 수행하도록 속이는 공격 기법입니다. 안전한 것으로 판단된 행동은 자동으로 수행되는 반면, 위험한 행동은 차단됩니다.
이는 본질적으로 모든 의사 결정을 AI에 위임하는 클로드 코드(Claude Code)의 기존 ‘dangerously-skip-permissions’ 명령을 확장한 것이지만, 여기에 추가적인 안전 장치가 더해진 형태입니다.
이 기능은 개발자를 대신해 작업을 수행할 수 있는 GitHub 및 OpenAI와 같은 기업들의 자율 코딩 도구가 최근 급증한 흐름을 바탕으로 개발되었습니다. 그러나 사용자에게 언제 권한을 요청할지 결정하는 권한을 AI 자체로 넘김으로써 한 단계 더 나아갔습니다.
Anthropic은 안전 계층이 안전한 행동과 위험한 행동을 구분하는 데 사용하는 구체적인 기준을 공개하지 않았는데, 개발자들은 이 기능을 널리 도입하기 전에 이러한 세부 사항을 더 명확히 이해하고 싶어 할 것입니다. (TechCrunch는 이 문제에 대한 추가 정보를 얻기 위해 해당 회사에 문의했습니다.)
‘오토 모드’는 코드베이스에 반영되기 전에 버그를 포착하는 자동 코드 검토 도구인 ‘클로드 코드 리뷰(Claude Code Review)’와, 사용자가 AI 에이전트에게 작업을 할당해 대신 업무를 처리하게 할 수 있는 ‘디스패치 포 코워크(Dispatch for Cowork)’에 이어 앤트로픽이 출시한 기능입니다.
자동 모드는 앞으로 며칠 내로 엔터프라이즈 및 API 사용자에게 제공될 예정이다. 회사는 현재 이 기능이 Claude Sonnet 4.6 및 Opus 4.6에서만 작동한다고 밝혔으며, 문제가 발생할 경우 잠재적인 피해를 최소화하기 위해 프로덕션 시스템과 분리된 샌드박스 환경인 “격리된 환경”에서 이 새로운 기능을 사용할 것을 권장한다.
관련 기사
클로드포스(Claudeforce) 내부: 세일즈포스 데이터와 클로드 AI의 통합
세일즈포스와 앤트로픽은 ‘클로드포스(Claudeforce)’를 출시하며 전략적 제휴를 강화했으며, 이를 통해 기업 간 연결성과 플랫폼 참여도가 향상될 전망이다. 출처: JasonDoiy/Getty Images세일즈포스와 앤트로픽은 전략적 파트너십을 확대하며, 섀넌 매튜스는 안전한 기업 간 연결을 통해 플랫폼 참여도가 어떻게 향상되는지 설명합니다세일즈포스와
앤트로픽, 미국에 이어 두 번째로 큰 시장인 인도의 클로드 가격을 조정했다
전 세계 AI 기업들이 세계에서 인구가 가장 많은 인도에서 사용자를 확보하기 위해 서비스를 점점 더 맞춤형으로 조정해 나가는 가운데, 앤트로픽(Anthropic)은 미국 이외의 최대 시장인 인도를 대상으로 클로드(Claude)의 가격 정책을 조정하기 시작했다.현재 클로드 웹사이트와 모바일 앱에서 일부 인도 사용자에게 현지화된 가격이 표시되고 있다. 그러나
코그니션이 포크를 인수한 이유: AI 기반 개성이 경쟁 우위로 부상하고 있다
친구처럼 대화하도록 설계된 AI 어시스턴트 ‘포크(Poke)’가 다음 단계로 도약하고 있다. 포크를 개발한 캘리포니아의 스타트업 ‘더 인터랙션 컴퍼니(The Interaction Company)’가 AI 코딩 기업 코그니션(Cognition)에 인수되었으며, 이번 거래에서 회사의 기업 가치는 9자리 수의 낮은 범위로 평가되었다.이번 계약에 따라 포크의 대화
관련 특별 주제 추천
의견 (0)
0/500

AI에 의존하는 개발자들에게 있어, 현재의 ‘감각적 코딩(vibe coding)’ 접근 방식은 대개 모든 행동을 면밀히 모니터링하거나 모델에 전적인 재량권을 부여하는 두 가지 중 하나를 수반합니다. Anthropic은 Claude의 최신 업데이트를 통해 AI가 특정 범위 내에서 어떤 행동이 안전하게 실행될 수 있는지 자율적으로 결정할 수 있게 함으로써 이러한 딜레마를 해소했다고 주장합니다.
이러한 움직임은 모든 단계에서 사람의 승인을 받지 않고도 작동하도록 AI 도구가 개발되고 있는 업계 전반의 추세를 반영합니다. 핵심 과제는 속도와 감독 간의 균형을 맞추는 것입니다. 과도한 안전 장치는 진행 속도를 늦추는 반면, 안전 장치가 너무 부족하면 예측 불가능하고 위험한 행동으로 이어질 수 있습니다. 현재 연구용 프리뷰 단계(즉, 테스트는 가능하지만 아직 최종 제품이 아닌 상태)에 있는 Anthropic의 새로운 ‘자동 모드’는 이러한 균형을 모색하기 위한 최신 시도입니다.
오토 모드는 AI 안전 장치를 활용해 실행 전 각 행동을 검토하며, 요청되지 않은 위험한 행동과 프롬프트 주입(prompt injection)의 징후를 탐지합니다. 프롬프트 주입이란 처리 중인 콘텐츠에 악의적인 지시를 삽입하여 AI가 의도하지 않은 행동을 수행하도록 속이는 공격 기법입니다. 안전한 것으로 판단된 행동은 자동으로 수행되는 반면, 위험한 행동은 차단됩니다.
이는 본질적으로 모든 의사 결정을 AI에 위임하는 클로드 코드(Claude Code)의 기존 ‘dangerously-skip-permissions’ 명령을 확장한 것이지만, 여기에 추가적인 안전 장치가 더해진 형태입니다.
이 기능은 개발자를 대신해 작업을 수행할 수 있는 GitHub 및 OpenAI와 같은 기업들의 자율 코딩 도구가 최근 급증한 흐름을 바탕으로 개발되었습니다. 그러나 사용자에게 언제 권한을 요청할지 결정하는 권한을 AI 자체로 넘김으로써 한 단계 더 나아갔습니다.
Anthropic은 안전 계층이 안전한 행동과 위험한 행동을 구분하는 데 사용하는 구체적인 기준을 공개하지 않았는데, 개발자들은 이 기능을 널리 도입하기 전에 이러한 세부 사항을 더 명확히 이해하고 싶어 할 것입니다. (TechCrunch는 이 문제에 대한 추가 정보를 얻기 위해 해당 회사에 문의했습니다.)
‘오토 모드’는 코드베이스에 반영되기 전에 버그를 포착하는 자동 코드 검토 도구인 ‘클로드 코드 리뷰(Claude Code Review)’와, 사용자가 AI 에이전트에게 작업을 할당해 대신 업무를 처리하게 할 수 있는 ‘디스패치 포 코워크(Dispatch for Cowork)’에 이어 앤트로픽이 출시한 기능입니다.
자동 모드는 앞으로 며칠 내로 엔터프라이즈 및 API 사용자에게 제공될 예정이다. 회사는 현재 이 기능이 Claude Sonnet 4.6 및 Opus 4.6에서만 작동한다고 밝혔으며, 문제가 발생할 경우 잠재적인 피해를 최소화하기 위해 프로덕션 시스템과 분리된 샌드박스 환경인 “격리된 환경”에서 이 새로운 기능을 사용할 것을 권장한다.
클로드포스(Claudeforce) 내부: 세일즈포스 데이터와 클로드 AI의 통합
세일즈포스와 앤트로픽은 ‘클로드포스(Claudeforce)’를 출시하며 전략적 제휴를 강화했으며, 이를 통해 기업 간 연결성과 플랫폼 참여도가 향상될 전망이다. 출처: JasonDoiy/Getty Images세일즈포스와 앤트로픽은 전략적 파트너십을 확대하며, 섀넌 매튜스는 안전한 기업 간 연결을 통해 플랫폼 참여도가 어떻게 향상되는지 설명합니다세일즈포스와
앤트로픽, 미국에 이어 두 번째로 큰 시장인 인도의 클로드 가격을 조정했다
전 세계 AI 기업들이 세계에서 인구가 가장 많은 인도에서 사용자를 확보하기 위해 서비스를 점점 더 맞춤형으로 조정해 나가는 가운데, 앤트로픽(Anthropic)은 미국 이외의 최대 시장인 인도를 대상으로 클로드(Claude)의 가격 정책을 조정하기 시작했다.현재 클로드 웹사이트와 모바일 앱에서 일부 인도 사용자에게 현지화된 가격이 표시되고 있다. 그러나
코그니션이 포크를 인수한 이유: AI 기반 개성이 경쟁 우위로 부상하고 있다
친구처럼 대화하도록 설계된 AI 어시스턴트 ‘포크(Poke)’가 다음 단계로 도약하고 있다. 포크를 개발한 캘리포니아의 스타트업 ‘더 인터랙션 컴퍼니(The Interaction Company)’가 AI 코딩 기업 코그니션(Cognition)에 인수되었으며, 이번 거래에서 회사의 기업 가치는 9자리 수의 낮은 범위로 평가되었다.이번 계약에 따라 포크의 대화





집






