미안비 인텔리전스와 칭화대, 중국 최초의 1.58비트 대형 모델 ‘BitCPM-CANN’ 공개
밍시 인텔리전스는 칭화대학교 및 OpenBMB 커뮤니티와 협력하여, 화웨이의 Ascend 플랫폼에서 훈련된 중국 최초의 대규모 언어 모델인 BitCPM-CANN을 공식적으로 오픈소스로 공개했습니다. 3진(1.58비트) 양자화를 활용한 이 획기적인 성과는 저비트 훈련 기술을 한 단계 발전시켰으며, 중국 AI 생태계에 있어 중요한 이정표가 되었습니다.
BitCPM-CANN은 국내 컴퓨팅 인프라의 강력한 역량을 입증하며, 양자화 연산자부터 훈련 알고리즘에 이르는 완전한 네이티브 개발 파이프라인을 구축했습니다. 0.5B, 1B, 3B, 8B 변형으로 제공되는 이 모델은 동급 규모의 풀 정밀도 MiniCPM4 모델보다 우수한 성능을 보입니다. 특히, 추론 시 메모리 사용량을 약 6배나 줄여 주류 플래그십 스마트폰에서도 8B 매개변수 모델을 원활하게 실행할 수 있게 함으로써 모바일 산업에 상당한 이점을 제공합니다.

Mingshi Intelligence는 MindSpeed와 Megatron-LM을 기반으로 포괄적인 저비트 훈련 프레임워크를 구축했습니다. 이 인프라는 환경 적응, 32K 길이의 긴 시퀀스 처리, 병렬 전략 및 통합 연산자를 지원합니다. 이 회사는 모든 Ascend 기반 저비트 훈련을 위한 이 공개 기반을 제공함으로써 개발 장벽을 낮추고 기술적 반복을 가속화합니다.

더 폭넓은 채택을 촉진하기 위해 모든 BitCPM-CANN 모델 가중치는 오픈소스로 공개되었으며, HuggingFace와 ModelScope를 통해 접근할 수 있습니다. 이 이니셔티브는 개발자들에게 강력한 도구를 제공하여 AI 분야 전반에 걸쳐 혁신적인 응용을 장려합니다.
결론적으로, BitCPM-CANN은 중국의 AI 대규모 모델 훈련 역량에서 중대한 진전을 의미하며, 미래의 지능형 애플리케이션을 위한 견고한 기반을 마련합니다.
관련 기사
메타, TSMC와 마이크론과 협력해 구형 메모리를 탑재한 신규 서버 구축에 참여
전 세계적으로 인공지능(AI) 도입 속도가 가속화됨에 따라 차세대 DDR5 메모리에서 심각한 공급 부족 현상이 발생하고 있습니다. AI 데이터 센터 구축 지연을 피하기 위해 메타(Meta)는 TSMC와 마이크론(Micron)과 같은 업계 리더들과 협력하여 돌파구 역할을 할 혁신적인 과도기적 솔루션을 개발했습니다.이 혁신 기술은 원래 DDR5 전용으로 설계된 고급 AI 서버가 기존 DDR4 모듈과 원활하게 작동할 수 있도록 합니다. '프랑켄슈타인
시계열 데이터베이스가 실시간 로봇 데이터에 어떻게 힘을 실어주는가
타이거 데이터의 더그 파그누티.파그누티는 타이거 데이터에서 산업용 개발자 대변인 역할을 하며, 실제 산업 시스템 구축을 위한 팀을 지원합니다.석유 및 가스, 제조 자동화 분야에서 12년 이상의 경력을 가진 그는 PLC, 로봇, SCADA 시스템에서 작업한 후 델 EMC와 VTScada에서 산업용 소프트웨어 개발로 전향했습니다.그는 대규모 IIoT 배포를 위한 시계열 데이터 인프라를 다루는 자동화 엔지니어들을 도와 OT/IT 간 격차를 해소합니다
일본 구글과 야후의 SEO를 최적화하는 방법은 무엇인가요?
마스터 루움: AI로 전문적인 비디오 제작 및 공유목차루움 소개루움 접속 방법녹화 옵션전체 화면창카메라오디오 및 음질편집 및 사용자 정의배경 옵션비디오 편집효과 추가공유 및 개인정보 보호 설정팀 구성원과 공유공유 링크 생성웹사이트에 임베드개인정보 보호 설정루움 AI 도구자동 제목 및 요약 생성침묵 및 불필요한 말 제거자막 생성 및 편집재생 및 협업댓글 및 반응비디오 다운로드조회수 및 피드백 추적폴더에
관련 특별 주제 추천
의견 (0)
0/500
밍시 인텔리전스는 칭화대학교 및 OpenBMB 커뮤니티와 협력하여, 화웨이의 Ascend 플랫폼에서 훈련된 중국 최초의 대규모 언어 모델인 BitCPM-CANN을 공식적으로 오픈소스로 공개했습니다. 3진(1.58비트) 양자화를 활용한 이 획기적인 성과는 저비트 훈련 기술을 한 단계 발전시켰으며, 중국 AI 생태계에 있어 중요한 이정표가 되었습니다.
BitCPM-CANN은 국내 컴퓨팅 인프라의 강력한 역량을 입증하며, 양자화 연산자부터 훈련 알고리즘에 이르는 완전한 네이티브 개발 파이프라인을 구축했습니다. 0.5B, 1B, 3B, 8B 변형으로 제공되는 이 모델은 동급 규모의 풀 정밀도 MiniCPM4 모델보다 우수한 성능을 보입니다. 특히, 추론 시 메모리 사용량을 약 6배나 줄여 주류 플래그십 스마트폰에서도 8B 매개변수 모델을 원활하게 실행할 수 있게 함으로써 모바일 산업에 상당한 이점을 제공합니다.

Mingshi Intelligence는 MindSpeed와 Megatron-LM을 기반으로 포괄적인 저비트 훈련 프레임워크를 구축했습니다. 이 인프라는 환경 적응, 32K 길이의 긴 시퀀스 처리, 병렬 전략 및 통합 연산자를 지원합니다. 이 회사는 모든 Ascend 기반 저비트 훈련을 위한 이 공개 기반을 제공함으로써 개발 장벽을 낮추고 기술적 반복을 가속화합니다.

더 폭넓은 채택을 촉진하기 위해 모든 BitCPM-CANN 모델 가중치는 오픈소스로 공개되었으며, HuggingFace와 ModelScope를 통해 접근할 수 있습니다. 이 이니셔티브는 개발자들에게 강력한 도구를 제공하여 AI 분야 전반에 걸쳐 혁신적인 응용을 장려합니다.
결론적으로, BitCPM-CANN은 중국의 AI 대규모 모델 훈련 역량에서 중대한 진전을 의미하며, 미래의 지능형 애플리케이션을 위한 견고한 기반을 마련합니다.
메타, TSMC와 마이크론과 협력해 구형 메모리를 탑재한 신규 서버 구축에 참여
전 세계적으로 인공지능(AI) 도입 속도가 가속화됨에 따라 차세대 DDR5 메모리에서 심각한 공급 부족 현상이 발생하고 있습니다. AI 데이터 센터 구축 지연을 피하기 위해 메타(Meta)는 TSMC와 마이크론(Micron)과 같은 업계 리더들과 협력하여 돌파구 역할을 할 혁신적인 과도기적 솔루션을 개발했습니다.이 혁신 기술은 원래 DDR5 전용으로 설계된 고급 AI 서버가 기존 DDR4 모듈과 원활하게 작동할 수 있도록 합니다. '프랑켄슈타인
시계열 데이터베이스가 실시간 로봇 데이터에 어떻게 힘을 실어주는가
타이거 데이터의 더그 파그누티.파그누티는 타이거 데이터에서 산업용 개발자 대변인 역할을 하며, 실제 산업 시스템 구축을 위한 팀을 지원합니다.석유 및 가스, 제조 자동화 분야에서 12년 이상의 경력을 가진 그는 PLC, 로봇, SCADA 시스템에서 작업한 후 델 EMC와 VTScada에서 산업용 소프트웨어 개발로 전향했습니다.그는 대규모 IIoT 배포를 위한 시계열 데이터 인프라를 다루는 자동화 엔지니어들을 도와 OT/IT 간 격차를 해소합니다
일본 구글과 야후의 SEO를 최적화하는 방법은 무엇인가요?
마스터 루움: AI로 전문적인 비디오 제작 및 공유목차루움 소개루움 접속 방법녹화 옵션전체 화면창카메라오디오 및 음질편집 및 사용자 정의배경 옵션비디오 편집효과 추가공유 및 개인정보 보호 설정팀 구성원과 공유공유 링크 생성웹사이트에 임베드개인정보 보호 설정루움 AI 도구자동 제목 및 요약 생성침묵 및 불필요한 말 제거자막 생성 및 편집재생 및 협업댓글 및 반응비디오 다운로드조회수 및 피드백 추적폴더에





집






