옵션
집
속보
콘텐츠
JackSanchez
JackSanchez
2026년 8월 17일

샤오홍슈는 총 매개변수 280B, 활성 매개변수 16B를 갖춘 오픈소스 대형 모델 시리즈 ‘dots3-note’의 첫 번째 버전을 출시했다. 이 모델은 텍스트, 영상, 음성을 아우르는 강력한 다중 모달 인식 및 이해 능력을 갖추고 있으며, 추론 에이전트 및 다중 모달 처리 작업에서 더 큰 규모의 국제 모델에 필적하는 성능을 보여준다. 출시 당일 화웨이는 이 모델에 맞춰 자사의 Atlas800A3 및 Atlas900A3 SuperPoD 노드를 개조했으며, vLLM Ascend 오픈소스 추론 엔진을 통해 완전한 배포 및 운영 지원을 제공한다고 발표했다. Ascend는 MoE 아키텍처에서 성능 병목 현상을 제거하고 추론 처리량을 높이기 위해 전체 파이프라인(다모달 처리 증분 디코딩 프레임워크)을 최적화했습니다. 또한 MTP 추측 디코딩을 기본적으로 통합하여 디코딩 전진 패스를 줄임으로써, 효율적이고 안정적인 모델 운영을 보장하며 복잡한 장기 작업 실행을 지원합니다.

샤오홍슈는 총 매개변수 280B, 활성 매개변수 16B를 갖춘 오픈소스 대형 모델 시리즈 ‘dots3-note’의 첫 번째 버전을 출시했다. 이 모델은 텍스트, 영상, 음성을 아우르는 강력한 다중 모달 인식 및 이해 능력을 갖추고 있으며, 추론 에이전트 및 다중 모달 처리 작업에서 더 큰 규모의 국제 모델에 필적하는 성능을 보여준다. 출시 당일 화웨이는 이 모델에 맞춰 자사의 Atlas800A3 및 Atlas900A3 SuperPoD 노드를 개조했으며, vLLM Ascend 오픈소스 추론 엔진을 통해 완전한 배포 및 운영 지원을 제공한다고 발표했다. Ascend는 MoE 아키텍처에서 성능 병목 현상을 제거하고 추론 처리량을 높이기 위해 전체 파이프라인(다모달 처리 증분 디코딩 프레임워크)을 최적화했습니다. 또한 MTP 추측 디코딩을 기본적으로 통합하여 디코딩 전진 패스를 줄임으로써, 효율적이고 안정적인 모델 운영을 보장하며 복잡한 장기 작업 실행을 지원합니다. 샤오홍슈는 총 매개변수 280B, 활성 매개변수 16B를 갖춘 오픈소스 대형 모델 시리즈 ‘dots3-note’의 첫 번째 버전을 출시했다. 이 모델은 텍스트, 영상, 음성을 아우르는 강력한 다중 모달 인식 및 이해 능력을 갖추고 있으며, 추론 에이전트 및 다중 모달 처리 작업에서 더 큰 규모의 국제 모델에 필적하는 성능을 보여준다. 출시 당일 화웨이는 이 모델에 맞춰 자사의 Atlas800A3 및 Atlas900A3 SuperPoD 노드를 개조했으며, vLLM Ascend 오픈소스 추론 엔진을 통해 완전한 배포 및 운영 지원을 제공한다고 발표했다. Ascend는 MoE 아키텍처에서 성능 병목 현상을 제거하고 추론 처리량을 높이기 위해 전체 파이프라인(다모달 처리 증분 디코딩 프레임워크)을 최적화했습니다. 또한 MTP 추측 디코딩을 기본적으로 통합하여 디코딩 전진 패스를 줄임으로써, 효율적이고 안정적인 모델 운영을 보장하며 복잡한 장기 작업 실행을 지원합니다.
의견 (0)
0/300
OR