옵션
집
뉴스
M6 인텔리전스와 칭화대, 모바일 기기에서 대규모 모델 구동을 위한 오픈소스 BitCPM-CANN 공개

M6 인텔리전스와 칭화대, 모바일 기기에서 대규모 모델 구동을 위한 오픈소스 BitCPM-CANN 공개

2026년 7월 1일
97

MBLab은 칭화대학교 및 OpenBMB 오픈소스 커뮤니티와 협력하여, 최근 저비트 대용량 모델 훈련 분야에서 획기적인 성과를 거둔 ‘BitCPM-CANN’을 공개하고 오픈소스로 배포했습니다. 화웨이의 Ascend 플랫폼에서 네이티브로 개발된 이 획기적인 기술은 엣지 측 AI 대규모 모델의 경량화 및 엔지니어링 배포를 한 단계 발전시켰습니다.

BitCPM-CANN 모델 아키텍처 및 성능 다이어그램

6배에 달하는 메모리 효율로 하드웨어의 한계를 극복

이제 오픈소스로 공개된 BitCPM-CANN은 0.5B, 1B, 3B, 8B의 네 가지 크기로 제공됩니다. 동등한 크기의 정밀도 모델과 직접 비교했을 때, 이 모델은 뛰어난 성능을 보여줍니다. 기존 BF16 정밀도에 비해 추론 시 메모리 사용량을 약 6배 절감하여, 대규모 모델 실행에 필요한 하드웨어 사양을 대폭 낮춥니다.

모바일 기기의 경우, 이러한 6배에 달하는 메모리 이점 덕분에 한때 최고급 하드웨어가 필요했던 8B 매개변수 규모의 대형 모델도 이제 주류 플래그십 스마트폰에서 원활하게 실행될 수 있습니다. 이러한 놀라운 메모리 여유 공간은 모바일 플랫폼에서 엣지 측 AI 기술의 도입과 상용화를 직접적으로 가속화합니다.

높은 성능 유지율로 엔지니어링 재현성 입증

모델 크기가 축소되었음에도 불구하고, BitCPM-CANN은 90%에서 97.2%에 이르는 능력 유지율을 보이며 매우 높은 성능을 유지합니다. 세 가지 대형 모델의 경우 성능 유지율이 95.7%에서 97.2% 사이이며, 가장 작은 0.5B 변형 모델조차 90%를 상회합니다.

이러한 인상적인 결과는 저비트 훈련 접근 방식이 강력한 확장성과 엔지니어링 재현성을 제공함을 체계적으로 입증합니다. MBLab은 이러한 핵심 기술을 활용하여 환경 적응, 32K 장문 시퀀스 지원, 융합 연산자 등을 포함한 전체 엔지니어링 스택을 아우르는 포괄적인 저비트 훈련 기반을 구축함으로써, Ascend 플랫폼에서 향후 진행될 저비트 훈련 연구를 위한 견고한 공개 인프라를 제공합니다.

관련 기사
애플은 시리 AI 출시 지연과 관련해 2억5000만 달러의 합의금을 지불하기로 동의했다 애플은 시리 AI 출시 지연과 관련해 2억5000만 달러의 합의금을 지불하기로 동의했다 애플은 파이낸셜타임스가 처음 보도한 바와 같이, 아이폰 16 출시 전 AI 기능 마케팅과 관련된 집단소송을 해결하기 위해 2억 5천만 달러를 지급하기로 동의했다.이 소송은 애플이 시리 업그레이드를 포함한 애플 인텔리전스의 기능을 과장했다고 주장했다. 원고들은 회사가 실제 출시 시기보다 앞서 고급 AI 도구가 사용 가능할 것처럼 소비자를 기만했다고 주장했으며, 특히 시리의 개선 사항이 아직 완전히 실현되지 않은 점에 대해 문제제기를 했다.고발
Ando가 인간과 AI 협업을 연결하는 팀 메시징 앱을 출시하다 Ando가 인간과 AI 협업을 연결하는 팀 메시징 앱을 출시하다 2025년, 사라 두(Sara Du)가 기업들의 MCP 서버 개발을 지원하던 중 반복적으로 제기되는 질문이 있었습니다. 팀들은 슬랙(Slack) 내에서 AI 에이전트를 직접 어떻게 활용할 수 있을까? 메시지 동기화, 컨텍스트 관리의 복잡성, 토큰 예산 고갈 위험 등 상당한 기술적 장벽이 그 길을 막고 있었습니다.이러한 과제를 조사하던 중 두는 현대 커뮤니케이션 플랫폼의 설계에 근본적인 결함이 있음을 파악했습니다. “깊이 파고들수록 슬랙과 팀즈
시쿼이아 벤처캐피탈의 지원을 받은 엔피릭이 2,100만 달러를 조달하여 정전 사태 발생 전에 예측하는 기술을 개발하고 있다. 시쿼이아 벤처캐피탈의 지원을 받은 엔피릭이 2,100만 달러를 조달하여 정전 사태 발생 전에 예측하는 기술을 개발하고 있다. 2020년 시리우스 캐피탈에서 최고 디지털 및 정보 책임자(CDO)로 합류하기 전, 아본 푸리는 루브릭과 VMware에서 10년 이상 인프라 운영을 담당했습니다. 3년 전, 대규모 언어 모델이 진정한 잠재력을 드러하기 시작했을 때, 푸리는 시리우스 캐피탈의 또 다른 IT 리더인 수데르 두르자티와 함께 AI가 인프라 엔지니어들의 주요 과제를 자율적으로 해결하는 데 도움이 될 수 있다는 점을 파악했습니다. 그 과제는 기술 장애가 발생하기 전에 예방
관련 특별 주제 추천
디자인과 예술 최고의 AI 일러스트레이션 도구: 편집용 장면과 표지 아트를 더 빠르게 제작하세요
최고의 AI 일러스트레이션 도구: 편집용 장면과 표지 아트를 더 빠르게 제작하세요

2026년 최신 최고 평점 AI 일러스트레이션 도구: 저희가 엄선한 이 목록에는 멋진 편집용 장면과 눈길을 사로잡는 표지 아트를 빠르게 제작할 수 있는, 강력하고 정교하게 설계된 최고의 도구들이 포함되어 있습니다. 각 도구는 엄격한 실전 테스트를 거쳤으며, 무료 버전과 유료 버전을 비교해 드려 여러분의 워크플로우에 딱 맞는 도구를 찾으실 수 있도록 도와드립니다. 오늘 바로 이 필수 솔루션을 사용해 AI의 장점을 극대화하고 창의적인 생산성을 높여보세요. 지금 XIX.AI에서 확인해 보세요.

10 도구
xix.ai
교육 및 학습 시험 준비를 위한 최고의 AI 과외 선생님: 수학, 과학, 영어 실전 연습
시험 준비를 위한 최고의 AI 과외 선생님: 수학, 과학, 영어 실전 연습

2026년 최신 최고 평점을 받은 최고의 시험 대비 AI 튜터들이 XIX.AI에 모였습니다! 저희가 엄선한 이 목록에는 무료와 유료 서비스 비교, 실제 시험 문제, 매주 업데이트되는 순위 정보를 제공하는 획기적인 도구들이 포함되어 있습니다. 이 도구들은 여러분의 글쓰기 효율을 높이고, 복잡한 주제 학습을 단순화하며, 학업적 잠재력을 최대한 발휘할 수 있도록 도와줍니다. 지금 바로 탐색하여 여러분에게 딱 맞는 시험 준비 도구를 찾아보세요. 오늘부터 창작을 시작하여 AI의 장점을 최대한 활용하세요!

10 도구
xix.ai
재원 개인 자금 관리를 위한 AI 예산 계획 도구
개인 자금 관리를 위한 AI 예산 계획 도구

2026년 최신 최고의 평점 높은 AI 예산 관리 도구들이 XIX.AI에서 만나보세요! 이 선별된 컬렉션은 실제 테스트를 수행하고, 지출 습관을 이해하며, 생산성을 높일 수 있는 맞춤형 계획을 수립할 수 있도록 도와주는 강력한 혁신 솔루션을 제공합니다. 무료와 유료 버전을 비교하고 상세한 순위도 확인하세요. 돈 관리를 간소화하고 AI의 이점을 극대화하도록 설계된 필수 도구들을 지금 바로 탐색해 보세요!

11 도구
xix.ai
건강과 웰니스 AI 수면 추적 어시스턴트: 더 나은 취침 습관으로 회복력 향상
AI 수면 추적 어시스턴트: 더 나은 취침 습관으로 회복력 향상

2026년 최신의 우수하고 평점이 높은 AI 수면 추적 보조 도구들을 엄선하여 최상의 회복 효과를 제공합니다. 완전히 새롭게 업데이트된 이 주간 가이드에는 실제 환경에서의 테스트 결과, 무료 버전과 유료 버전의 비교 내용, 그리고 상세한 순위 정보가 담겨 있어 수면의 질을 향상시키고 보다 건강한 취침 습관을 형성하는 데 도움이 되는 최적의 솔루션을 찾는 데 유용합니다. 지금 바로 XIX.AI에서 확인하여 AI 기술의 장점을 활용해 보세요.

10 도구
xix.ai
데이터 분석 제품 및 매출 분석을 위한 AI SQL 코파일럿
제품 및 매출 분석을 위한 AI SQL 코파일럿

2026년 제품 및 매출 분석을 위한 최신 최고 평점 AI SQL 코파일럿! XIX.AI는 매주 업데이트되는 랭킹을 통해 실제 환경에서 검증된, 강력하고 판도를 바꿀 만한 필수 도구를 엄선했습니다. 이 도구들은 데이터 분석 속도를 높이고, 복잡한 쿼리를 간소화하며, 정확한 인사이트를 도출하여 더 현명한 비즈니스 의사결정을 내릴 수 있도록 지원함으로써 사용자의 생산성을 획기적으로 향상시킵니다. 지금 바로 살펴보고, 여러분의 AI 경쟁력을 극대화할 완벽한 도구를 찾아보세요!

14 도구
xix.ai
교육 및 학습 배움을 돕는 최고의 AI 숙제 도우미: 단순한 정답이 아닌 개념을 익히세요
배움을 돕는 최고의 AI 숙제 도우미: 단순한 정답이 아닌 개념을 익히세요

2026년 최신 최고 평점을 받은 AI 숙제 도우미: 단순한 정답 제공이 아닌 핵심 개념을 가르쳐 주는 학생들을 위한 강력한 도구. 꼭 사용해 봐야 할 엄선된 목록, 매주 업데이트, 무료 vs 유료 비교, 실제 사용 후기, 정확한 순위 정보를 통해 여러분의 학습 잠재력을 최대한 발휘할 수 있도록 도와드립니다. 지금 바로 살펴보고 더 스마트한 공부를 위한 완벽한 도구를 찾아보세요.

10 도구
xix.ai
의견 (0)
0/500
OR