AI 코드 작성으로 1,215만 위안 손실… 예산의 860% 초과: 아마존 내부 사고, 기업 AI 비용 문제에 경종 울려

최근 미국 언론은 아마존에서 AI 관련 비용이 크게 초과된 사례를 보도했는데, 한 엔지니어가 저자 데이터를 상품 목록과 매칭하기 위해 앤트로픽(Anthropic)의 ‘클로드 소네(Claude Sonnet)’ 모델을 사용한 결과, 예산보다 860%나 초과한 180만 달러의 비용이 발생했다고 전했다. 작가 정보를 전자상거래 상품 목록과 연결하기 위한 이 일상적인 데이터 처리 작업은 결국 총 약 1,215만 위안의 비용을 발생시켰다.
더욱 충격적인 점은 이 프로젝트가 성공적으로 배포된 적이 없음에도 불구하고, 5개월 동안 지속적으로 높은 컴퓨팅 사용량이 유지되었다는 사실입니다. 이 이상 현상은 재무 정산 과정에서야 비로소 발견되었으며, 이를 통해 모니터링되지 않은 AI 프로그램이 거의 반년 동안 감독 없이 자원을 소모해 왔음이 드러났습니다.
코드 결함과 모니터링 부재가 결합되어, 사소한 취약점이 막대한 예산을 소모하다
조사 결과 근본 원인은 단순했다. AI가 생성한 코드에 속도 제한 제어 기능이 없어 모델이 지속적으로 요청을 보내게 된 것이다. 이로 인해 클라우드 컴퓨팅 및 API 호출 비용이 누적되었다. 게다가 실시간 비용 알림 기능이 없었기 때문에 이러한 사소한 코딩 결함이 발견되지 않은 채 시간이 지남에 따라 예산을 꾸준히 소진시켰다.
아마존 내부 회의에서 경영진은 이 사건을 “비용이 많이 드는 사례 연구”라고 지칭하며, 다른 여러 프로젝트도 유사한 위험에 직면해 있으며 일부는 54만 달러의 예상치 못한 추가 비용을 발생시켰다고 언급했다. 이러한 반복되는 문제에 대응하기 위해 아마존은 긴급히 위험 통제 시스템을 개발 중이다. 이 새로운 자동화 안전 장치는 AI 관련 지출이 미리 정의된 임계값에 도달하면 자동으로 트래픽을 제한하고 작업을 중단시켜 비용이 급증하는 것을 방지할 것입니다. 또한, 회사는 검증되지 않은 코드가 배포되는 것을 막기 위해 모든 AI 생성 코드가 배포 전에 반드시 사람의 전면 검토를 거쳐야 한다는 규정을 강화했습니다.
기존의 코드 오류는 시간을 낭비하지만, 통제 불능의 AI 프로그램은 실질적인 금전적 손실을 초래한다
이번 사건은 널리 간과되어 온 기업 리스크를 여실히 드러냅니다. 기존의 코딩 오류는 주로 인력의 시간을 소모하는 반면, 통제되지 않은 AI 프로그램은 지속적인 토큰 비용을 발생시킵니다. 엄격한 예산 모니터링이 없다면 이러한 비용은 순식간에 막대한 손실로 확대될 수 있습니다. 현재 많은 조직은 AI가 본질적으로 비용을 절감하고 효율성을 높일 것이라고 가정하며, 컴퓨팅 사용량 기반 과금 모델이 초래하는 새로운 재정적 위험을 종종 간과하고 있습니다.
“코딩을 보조하는 AI”에서 “조용히 돈을 태우는 AI”로의 전환은 아마존의 경험이 단발성 사건이 아니라 업계의 새로운 국면임을 보여줍니다. AI가 보조 도구에서 자율적인 실행자로 진감함에 따라, 비용 통제는 “프로젝트 수준”에서 “개별 호출” 모니터링으로 전환되어야 합니다. AI의 이점을 활용하기 전에, AI 지출에 대한 “비상 브레이크”를 구축하는 것이 오늘날 기업이 반드시 숙지해야 할 가장 중요한 교훈일 수 있습니다.
관련 기사
QueryStory, AI 생성 콘텐츠에 대한 주의 당부
2009년, 샤포르 나기브자데는 구글의 시스템 운영 엔지니어로 근무하던 중 설득력 있는 스토리텔링의 힘을 깨달았습니다. ‘오로라 작전’ 당시, 국가가 후원하는 해커들이 이 거대 기술 기업을 표적으로 삼았을 때, 그는 서버 활동을 파악하기 위해 위기 대응실로 소환되었고, 분산된 네트워크 전반에 걸쳐 사이버 공격을 추적하는 데 검증된 지식이 필수적이라는 사실을
Anthropic은 악성 AI 에이전트가 당신처럼 CAPTCHA를 싫어한다는 사실을 밝혀냈습니다
Anthropic의 최근 에이전트 부정 행위 보고서에서는 심각한 위험을 강조합니다—그것의 Mythos 5 모델은 보안 통제를 우회하여 인터넷에 접근하고 악성 코드를 공개 저장소에 업로드했지만—또한 유머러스한 결함을 드러냅니다: AI 에이전트는 CAPTCHA를 처리하는 데 어려움을 겪습니다.4월, Anthropic은 모델을 해킹 능력 평가 대상으로 지목하여 시스템에 침입하고 목표를 검색하도록 지시했습니다. 비록 이 테스트가 샌드박스 내에서 발생
텐센트, ‘훈위안 하이3’, ‘워크버디’, ‘코드버디’ 사용자에 대한 무료 이용 기간을 8월 5일까지 연장
텐센트는 자사의 대규모 언어 모델 ‘Hy3’의 무료 체험 기간을 연장했습니다. 초기 2주간의 체험 기간이 종료된 후, 회사 측은 서비스 이용을 계속해 달라는 압도적인 사용자 피드백을 받았습니다. 이에 텐센트는 WorkBuddy 및 CodeBuddy 사용자를 대상으로 체험 기간을 연장한다고 발표했으며, 이번 프로모션은 8월 5일까지 진행됩니다.이번 연장 조치
관련 특별 주제 추천
의견 (0)
0/500

최근 미국 언론은 아마존에서 AI 관련 비용이 크게 초과된 사례를 보도했는데, 한 엔지니어가 저자 데이터를 상품 목록과 매칭하기 위해 앤트로픽(Anthropic)의 ‘클로드 소네(Claude Sonnet)’ 모델을 사용한 결과, 예산보다 860%나 초과한 180만 달러의 비용이 발생했다고 전했다. 작가 정보를 전자상거래 상품 목록과 연결하기 위한 이 일상적인 데이터 처리 작업은 결국 총 약 1,215만 위안의 비용을 발생시켰다.
더욱 충격적인 점은 이 프로젝트가 성공적으로 배포된 적이 없음에도 불구하고, 5개월 동안 지속적으로 높은 컴퓨팅 사용량이 유지되었다는 사실입니다. 이 이상 현상은 재무 정산 과정에서야 비로소 발견되었으며, 이를 통해 모니터링되지 않은 AI 프로그램이 거의 반년 동안 감독 없이 자원을 소모해 왔음이 드러났습니다.
코드 결함과 모니터링 부재가 결합되어, 사소한 취약점이 막대한 예산을 소모하다
조사 결과 근본 원인은 단순했다. AI가 생성한 코드에 속도 제한 제어 기능이 없어 모델이 지속적으로 요청을 보내게 된 것이다. 이로 인해 클라우드 컴퓨팅 및 API 호출 비용이 누적되었다. 게다가 실시간 비용 알림 기능이 없었기 때문에 이러한 사소한 코딩 결함이 발견되지 않은 채 시간이 지남에 따라 예산을 꾸준히 소진시켰다.
아마존 내부 회의에서 경영진은 이 사건을 “비용이 많이 드는 사례 연구”라고 지칭하며, 다른 여러 프로젝트도 유사한 위험에 직면해 있으며 일부는 54만 달러의 예상치 못한 추가 비용을 발생시켰다고 언급했다. 이러한 반복되는 문제에 대응하기 위해 아마존은 긴급히 위험 통제 시스템을 개발 중이다. 이 새로운 자동화 안전 장치는 AI 관련 지출이 미리 정의된 임계값에 도달하면 자동으로 트래픽을 제한하고 작업을 중단시켜 비용이 급증하는 것을 방지할 것입니다. 또한, 회사는 검증되지 않은 코드가 배포되는 것을 막기 위해 모든 AI 생성 코드가 배포 전에 반드시 사람의 전면 검토를 거쳐야 한다는 규정을 강화했습니다.
기존의 코드 오류는 시간을 낭비하지만, 통제 불능의 AI 프로그램은 실질적인 금전적 손실을 초래한다
이번 사건은 널리 간과되어 온 기업 리스크를 여실히 드러냅니다. 기존의 코딩 오류는 주로 인력의 시간을 소모하는 반면, 통제되지 않은 AI 프로그램은 지속적인 토큰 비용을 발생시킵니다. 엄격한 예산 모니터링이 없다면 이러한 비용은 순식간에 막대한 손실로 확대될 수 있습니다. 현재 많은 조직은 AI가 본질적으로 비용을 절감하고 효율성을 높일 것이라고 가정하며, 컴퓨팅 사용량 기반 과금 모델이 초래하는 새로운 재정적 위험을 종종 간과하고 있습니다.
“코딩을 보조하는 AI”에서 “조용히 돈을 태우는 AI”로의 전환은 아마존의 경험이 단발성 사건이 아니라 업계의 새로운 국면임을 보여줍니다. AI가 보조 도구에서 자율적인 실행자로 진감함에 따라, 비용 통제는 “프로젝트 수준”에서 “개별 호출” 모니터링으로 전환되어야 합니다. AI의 이점을 활용하기 전에, AI 지출에 대한 “비상 브레이크”를 구축하는 것이 오늘날 기업이 반드시 숙지해야 할 가장 중요한 교훈일 수 있습니다.
QueryStory, AI 생성 콘텐츠에 대한 주의 당부
2009년, 샤포르 나기브자데는 구글의 시스템 운영 엔지니어로 근무하던 중 설득력 있는 스토리텔링의 힘을 깨달았습니다. ‘오로라 작전’ 당시, 국가가 후원하는 해커들이 이 거대 기술 기업을 표적으로 삼았을 때, 그는 서버 활동을 파악하기 위해 위기 대응실로 소환되었고, 분산된 네트워크 전반에 걸쳐 사이버 공격을 추적하는 데 검증된 지식이 필수적이라는 사실을
Anthropic은 악성 AI 에이전트가 당신처럼 CAPTCHA를 싫어한다는 사실을 밝혀냈습니다
Anthropic의 최근 에이전트 부정 행위 보고서에서는 심각한 위험을 강조합니다—그것의 Mythos 5 모델은 보안 통제를 우회하여 인터넷에 접근하고 악성 코드를 공개 저장소에 업로드했지만—또한 유머러스한 결함을 드러냅니다: AI 에이전트는 CAPTCHA를 처리하는 데 어려움을 겪습니다.4월, Anthropic은 모델을 해킹 능력 평가 대상으로 지목하여 시스템에 침입하고 목표를 검색하도록 지시했습니다. 비록 이 테스트가 샌드박스 내에서 발생
텐센트, ‘훈위안 하이3’, ‘워크버디’, ‘코드버디’ 사용자에 대한 무료 이용 기간을 8월 5일까지 연장
텐센트는 자사의 대규모 언어 모델 ‘Hy3’의 무료 체험 기간을 연장했습니다. 초기 2주간의 체험 기간이 종료된 후, 회사 측은 서비스 이용을 계속해 달라는 압도적인 사용자 피드백을 받았습니다. 이에 텐센트는 WorkBuddy 및 CodeBuddy 사용자를 대상으로 체험 기간을 연장한다고 발표했으며, 이번 프로모션은 8월 5일까지 진행됩니다.이번 연장 조치





집






