집
텐센트는 다중 방식 협업과 워크로드 적응을 통해 대규모 모델의 추론 처리량을 향상시키는 통합 훈련 프레임워크인 ‘AngelSpec’을 오픈소스로 공개했습니다. 이 프레임워크는 개방형 과제에 대해 다중 토큰 예측 방식을, 코드/수학 문제에는 블록 확산 모델(DFly)을 사용하며, 동적 검증 메커니즘을 통해 연산량과 처리량 간의 균형을 맞춥니다. DFly는 Hy3 테스트에서 가장 높은 평균 처리량을 기록했습니다.
의견 (0)
0/300
