기술 업계 종사자들, 국방부와 의원들에게 앤트로픽의 공급망 위험 지정 철회를 촉구

수백 명의 기술 전문가들이 국방부가 앤트로픽(Anthropic)에 대한 ‘공급망 위험’ 지정을 철회할 것을 촉구하는 공개 서한에 서명했다. 이 서한은 또한 의회가 개입하여 “국내 기술 기업에 대해 이러한 비범한 권한을 행사하는 것이 정당한지 여부를 평가”할 것을 촉구했다.
이 서한의 서명자에는 오픈AI(OpenAI), 슬랙(Slack), IBM, 커서(Cursor), 세일즈포스 벤처스(Salesforce Ventures) 등 유수의 기술 및 벤처 캐피털 기업 소속 인사들이 포함되어 있다. 이번 조치는 지난주 앤트로픽이 군 당국에 자사 AI 시스템에 대한 무제한 접근 권한을 부여하는 것을 거부한 데 이어 발생한 국방부와 앤트로픽 간의 갈등에 따른 것이다.
국방부와의 협상 과정에서 앤트로픽은 두 가지 타협할 수 없는 원칙을 제시했다. 자사의 기술이 미국 시민에 대한 대량 감시에 사용되어서는 안 되며, 인간의 실질적인 통제 없이 표적 선정 및 공격 결정을 내리는 자율 무기 시스템을 운영하는 데에도 사용되어서는 안 된다는 것이다. 국방부는 이러한 용도로 기술을 활용할 의도가 없다고 밝혔으나, 공급업체의 정책에 구속되어서는 안 된다고 주장했다.
안트로픽의 다리오 아모데이(Dario Amodei) CEO가 헤그셋의 요구를 거부하자, 도널드 트럼프 대통령은 금요일 연방 기관들에 6개월의 전환 기간 후 안트로픽의 기술 사용을 중단하라고 지시했다. 헤그셋은 안트로픽을 공급망 위험으로 분류하겠다는 위협을 실행에 옮기겠다고 다짐했는데, 이는 일반적으로 외국 적대국에 적용되는 지정으로, 이 경우 해당 AI 기업은 국방부와 협력하는 어떤 기관이나 계약업체와도 거래할 수 없게 된다.
헤그셋은 금요일 소셜 미디어 게시물을 통해 "즉시 효력을 발생하여, 미군과 거래하는 모든 계약업체, 공급업체 또는 파트너는 앤트로픽과 어떠한 상업적 활동도 수행할 수 없다"고 밝혔다.
그러나 소셜 미디어 게시물만으로는 공급망 위험 지정이 공식적으로 발효되지 않는다. 군 협력사들이 앤트로픽이나 그 제품과의 관계를 단절해야 하기 전에는 정부가 공식적인 위험 평가를 완료하고 의회에 통보해야 한다. 앤트로픽은 블로그 게시물을 통해 이 잠재적 지정이 "법적 근거가 없다"고 반박하며 "법정에서 어떠한 공급망 위험 분류에도 이의를 제기하겠다"고 밝혔다.
기술 업계 내 많은 이들은 앤트로픽에 대한 행정부의 조치를 심각하고 노골적인 보복으로 보고 있다.
공개 서한은 "양측이 합의에 도달하지 못할 때 일반적인 절차는 관계를 정리하고 대안을 모색하는 것"이라며, "이번 상황은 위험한 선례를 남긴다. 계약 조건 변경을 거부했다는 이유로 미국 기업을 처벌하는 것은 전국의 모든 기술 기업에 '정부의 조건에 따르지 않으면 보복을 당할 것'이라는 분명한 메시지를 보내는 것"이라고 밝혔다.
앤트로픽에 대한 정부의 징벌적 태도에 대한 우려 외에도, 많은 업계 전문가들은 정부의 권한 남용 가능성과 AI가 유해한 목적으로 오용될 수 있다는 점에 대해 여전히 우려하고 있다.
오픈AI(OpenAI)의 연구원 보아즈 바락(Boaz Barak)은 월요일 소셜 미디어 게시물을 통해 정부가 AI를 대량 감시에 사용하는 것을 막는 것이 자신의 "개인적인 경계선"이자 "우리 모두의 경계선이 되어야 한다"고 언급했다.
트럼프 대통령이 앤트로픽을 공개적으로 비판한 직후, 오픈AI는 국방부(DOD)의 기밀 환경 내에서 자사 모델을 배포하기로 하는 자체 합의를 확보했다고 발표했다. 오픈AI의 샘 알트만 CEO는 지난주 자사가 앤트로픽과 동일한 핵심 원칙을 공유한다고 밝혔다.
바락은 "지난주 사건에서 긍정적인 결과가 나온다면, 그것은 AI 업계가 정부의 남용 및 대중 감시를 위한 AI 사용을 그 자체로 치명적인 위험으로 간주하기 시작하는 것일 것"이라고 썼다. "우리는 생물무기나 사이버 보안과 같은 위험에 대해 견고한 평가, 완화 조치, 절차를 마련해 두었다. 여기에도 마찬가지로 엄격한 기준을 적용하자."
관련 기사
Anthropic, 새로운 동적 워크플로우 도구를 탑재한 Opus 4.8 출시
앤트로픽은 목요일, 자사의 주력 공개 모델인 ‘오푸스(Opus)’의 최신 버전인 4.8을 공개했다. 이전 버전과 가격이 동일한 이번 업데이트는 이제 모든 플랫폼에서 이용할 수 있다.Opus 4.7 출시 불과 41일 만에 Opus 4.8을 공개한 Anthropic은 개발 주기를 대폭 단축했으며, 이는 최근 Sonnet 및 Haiku 출시 시 보였던 3개월 및
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
Anthropic, Fable를 공개하다: 더 저렴하고 제한이 적은 AI 모델
Anthropic은 화요일에 Fable과 Mythos 5.1을 출시하며 최신 AI 기술의 쌍을 이루는 버전을 제공했습니다. 성능 향상 외에도 업데이트된 Fable 버전은 토큰 사용량을 줄이고 안전 필터를 강화하여 잘못된 제한을 최소화합니다.전작과 마찬가지로 Mythos 5.1은 사이버 보안 또는 생명 과학에 중점을 둔 검증된 Anthropic 파트너에게만 제한됩니다. 이제 제한이 없는 Fable 5.1은 클라우드 플랫폼과 Anthropic A
관련 특별 주제 추천
의견 (0)
0/500

수백 명의 기술 전문가들이 국방부가 앤트로픽(Anthropic)에 대한 ‘공급망 위험’ 지정을 철회할 것을 촉구하는 공개 서한에 서명했다. 이 서한은 또한 의회가 개입하여 “국내 기술 기업에 대해 이러한 비범한 권한을 행사하는 것이 정당한지 여부를 평가”할 것을 촉구했다.
이 서한의 서명자에는 오픈AI(OpenAI), 슬랙(Slack), IBM, 커서(Cursor), 세일즈포스 벤처스(Salesforce Ventures) 등 유수의 기술 및 벤처 캐피털 기업 소속 인사들이 포함되어 있다. 이번 조치는 지난주 앤트로픽이 군 당국에 자사 AI 시스템에 대한 무제한 접근 권한을 부여하는 것을 거부한 데 이어 발생한 국방부와 앤트로픽 간의 갈등에 따른 것이다.
국방부와의 협상 과정에서 앤트로픽은 두 가지 타협할 수 없는 원칙을 제시했다. 자사의 기술이 미국 시민에 대한 대량 감시에 사용되어서는 안 되며, 인간의 실질적인 통제 없이 표적 선정 및 공격 결정을 내리는 자율 무기 시스템을 운영하는 데에도 사용되어서는 안 된다는 것이다. 국방부는 이러한 용도로 기술을 활용할 의도가 없다고 밝혔으나, 공급업체의 정책에 구속되어서는 안 된다고 주장했다.
안트로픽의 다리오 아모데이(Dario Amodei) CEO가 헤그셋의 요구를 거부하자, 도널드 트럼프 대통령은 금요일 연방 기관들에 6개월의 전환 기간 후 안트로픽의 기술 사용을 중단하라고 지시했다. 헤그셋은 안트로픽을 공급망 위험으로 분류하겠다는 위협을 실행에 옮기겠다고 다짐했는데, 이는 일반적으로 외국 적대국에 적용되는 지정으로, 이 경우 해당 AI 기업은 국방부와 협력하는 어떤 기관이나 계약업체와도 거래할 수 없게 된다.
헤그셋은 금요일 소셜 미디어 게시물을 통해 "즉시 효력을 발생하여, 미군과 거래하는 모든 계약업체, 공급업체 또는 파트너는 앤트로픽과 어떠한 상업적 활동도 수행할 수 없다"고 밝혔다.
그러나 소셜 미디어 게시물만으로는 공급망 위험 지정이 공식적으로 발효되지 않는다. 군 협력사들이 앤트로픽이나 그 제품과의 관계를 단절해야 하기 전에는 정부가 공식적인 위험 평가를 완료하고 의회에 통보해야 한다. 앤트로픽은 블로그 게시물을 통해 이 잠재적 지정이 "법적 근거가 없다"고 반박하며 "법정에서 어떠한 공급망 위험 분류에도 이의를 제기하겠다"고 밝혔다.
기술 업계 내 많은 이들은 앤트로픽에 대한 행정부의 조치를 심각하고 노골적인 보복으로 보고 있다.
공개 서한은 "양측이 합의에 도달하지 못할 때 일반적인 절차는 관계를 정리하고 대안을 모색하는 것"이라며, "이번 상황은 위험한 선례를 남긴다. 계약 조건 변경을 거부했다는 이유로 미국 기업을 처벌하는 것은 전국의 모든 기술 기업에 '정부의 조건에 따르지 않으면 보복을 당할 것'이라는 분명한 메시지를 보내는 것"이라고 밝혔다.
앤트로픽에 대한 정부의 징벌적 태도에 대한 우려 외에도, 많은 업계 전문가들은 정부의 권한 남용 가능성과 AI가 유해한 목적으로 오용될 수 있다는 점에 대해 여전히 우려하고 있다.
오픈AI(OpenAI)의 연구원 보아즈 바락(Boaz Barak)은 월요일 소셜 미디어 게시물을 통해 정부가 AI를 대량 감시에 사용하는 것을 막는 것이 자신의 "개인적인 경계선"이자 "우리 모두의 경계선이 되어야 한다"고 언급했다.
트럼프 대통령이 앤트로픽을 공개적으로 비판한 직후, 오픈AI는 국방부(DOD)의 기밀 환경 내에서 자사 모델을 배포하기로 하는 자체 합의를 확보했다고 발표했다. 오픈AI의 샘 알트만 CEO는 지난주 자사가 앤트로픽과 동일한 핵심 원칙을 공유한다고 밝혔다.
바락은 "지난주 사건에서 긍정적인 결과가 나온다면, 그것은 AI 업계가 정부의 남용 및 대중 감시를 위한 AI 사용을 그 자체로 치명적인 위험으로 간주하기 시작하는 것일 것"이라고 썼다. "우리는 생물무기나 사이버 보안과 같은 위험에 대해 견고한 평가, 완화 조치, 절차를 마련해 두었다. 여기에도 마찬가지로 엄격한 기준을 적용하자."
Anthropic, 새로운 동적 워크플로우 도구를 탑재한 Opus 4.8 출시
앤트로픽은 목요일, 자사의 주력 공개 모델인 ‘오푸스(Opus)’의 최신 버전인 4.8을 공개했다. 이전 버전과 가격이 동일한 이번 업데이트는 이제 모든 플랫폼에서 이용할 수 있다.Opus 4.7 출시 불과 41일 만에 Opus 4.8을 공개한 Anthropic은 개발 주기를 대폭 단축했으며, 이는 최근 Sonnet 및 Haiku 출시 시 보였던 3개월 및
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
Anthropic, Fable를 공개하다: 더 저렴하고 제한이 적은 AI 모델
Anthropic은 화요일에 Fable과 Mythos 5.1을 출시하며 최신 AI 기술의 쌍을 이루는 버전을 제공했습니다. 성능 향상 외에도 업데이트된 Fable 버전은 토큰 사용량을 줄이고 안전 필터를 강화하여 잘못된 제한을 최소화합니다.전작과 마찬가지로 Mythos 5.1은 사이버 보안 또는 생명 과학에 중점을 둔 검증된 Anthropic 파트너에게만 제한됩니다. 이제 제한이 없는 Fable 5.1은 클라우드 플랫폼과 Anthropic A





집






