옵션
집
뉴스
텐센트 후위안(Hunyuan)은 PPO 강화학습에 중요 포인트 크기 이론을 통합하여 처리량을 2.29배 향상시키고 GRPO 학습 시간을 29% 단축했습니다.

텐센트 후위안(Hunyuan)은 PPO 강화학습에 중요 포인트 크기 이론을 통합하여 처리량을 2.29배 향상시키고 GRPO 학습 시간을 29% 단축했습니다.

2026년 10월 11일
7

텐센트 후위안(Hunyuan)은 PPO 강화학습에 중요 포인트 크기 이론을 통합하여 처리량을 2.29배 향상시키고 GRPO 학습 시간을 29% 단축했습니다.

대규모 GPU 클러스터로 확장되고 더 밀집된 학습 데이터셋을 활용하는 대규모 모델의 강화학습이 확대됨에 따라, 학습 효율성이 중요한 우선 과제로 부상했습니다. 최근 텐센트 환위안(Tencent Huan Yuan) 팀의 연구는 종종 간과되는 한 가지 과제를 다룹니다: 모델이 자체 학습 데이터를 생성할 때, 롤아웃 생성과 학습의 속도가 서로 다를 경우 배치 크기는 어떻게 재정의되어야 할까요?

임계 배치 크기의 고전적 이론을 바탕으로, 이 연구는 온라인 대규모 언어 모델 강화학습에 대해 이 개념을 다시 유도했습니다. 연구 결과는 실용적인 해결책을 제시합니다: 배치 크기가 증가함에 따라 특정 범위 내에서 학습률을 조정함으로써, GRPO와 PPO 알고리즘 모두 각 응답이 희석되지 않고 효과적으로 학습되도록 보장할 수 있습니다. 이는 배치 크기가 단순히 "클수록 좋은" 것도, 고정된 값도 아님을 의미합니다. 오히려 최대 효율을 위해 미세 조정할 수 있는 최적의 범위가 존재합니다.

실제 하드웨어 비용에 미치는 영향은 큽니다. 고정된 하드웨어 구성에서 배치 크기를 증가시키면 PPO의 생성 처리량을 최대 2.29배까지 높일 수 있습니다. 동시에 최적의 GRPO 구성은 검증 목표에 도달하는 데 29% 더 적은 시간을 소요합니다. GPU 자원에 막대한 투자를 한 팀에게 이는 동일한 클러스터로 작업을 더 빠르게 완료하거나, 동일한 시간 내에 더 많은 데이터를 처리할 수 있음을 의미하며, 강화학습의 가장 비용이 많이 드는 단계에서 비용을 효과적으로 절감합니다.

이 연구는 모델이 학생이자 문제 출제자 역할을 하는 온라인 RL의 확장성을 위한 실용적인 레버리를 제공합니다. 생성과 학습 규모 간의 불일치로 인해 발생하는 효율성 격차는, 이 연구가 임계 배치 크기 이론과 학습률 조정을 결합함으로써 해소됩니다. 업계가 가장 큰 모델을 구축하기 위해 경쟁하는 동안, 텐센트 환위안은 기존 하드웨어를 최적화하여 더 높은 비용 효율성을 달성하는 데 집중하고 있습니다.

관련 기사
AI 스타트업들이 수익성 성장을 가속화하고 있다 AI 스타트업들이 수익성 성장을 가속화하고 있다 확립된 기업들과 신생 벤처들이 인공지능을 활용하기 위해 치열하게 경쟁하는 가운데, 다수의 AI 스타트업들은 매출이 단순히 증가하는 것을 넘어 급격히 가속화되고 있으며, 점점 더 짧은 기간 내에 후속 목표 달성을 이루고 있다고 보고합니다.다음 스타트업들은 이러한 플라이휠 성장의 일관된 패턴을 보여줍니다. 이들 기업이 모두 'ARR'이라는 용어를 사용하더라도 근본적인 지표는 각기 다르다는 점에 유의해야 합니다. 일부 기업은 연간 반복 수익(ARR
Replit의 아마드 마사드는 Cursor 인수, 애플과의 경쟁, 그리고 왜 매각을 선호하지 않는지에 대해 Replit의 아마드 마사드는 Cursor 인수, 애플과의 경쟁, 그리고 왜 매각을 선호하지 않는지에 대해 아마드 마사드는 지난 10년 동안 Replit을 구축해 왔지만, 지난 18개월은 변혁의 시기였습니다. 이 AI 코딩 플랫폼은 2024년 연간 매출 280만 달러에서 마사드가 ‘연간 10억 달러 수준의 매출’이라고 묘사하는 궤도로 급성장했습니다.목요일 밤 샌프란시스코에서 열린 TechCrunch의 매진된 StrictlyVC 행사에서 우리는 광범위한 주제를 다뤘습니다. 먼저 업계의 시급한 질문으로 시작했습니다. 경쟁사 Cursor가 SpaceX로
AI 에이전트가 MIIT의 경고와 록칩의 대응 속에서 새우 양식을 강화한다 AI 에이전트가 MIIT의 경고와 록칩의 대응 속에서 새우 양식을 강화한다 AI 커뮤니티의 대화는 "대규모 모델 학습"에서 "바다가재 키우기"로 전환되었습니다. 만약 소셜 미디어에서 누군가가 "바다가재"의 데이터를 공급하고 매개변수를 조정하는 방법에 대해 논의하는 것을 보게 된다면, 혼란스러워하지 마십시오. 그들은 수생 생물을 양식하는 것이 아니라 "OpenClaw"이라는 오픈소스 AI 에이전트를 배포하는 것입니다. 공식 아이콘이 붉은 바다가재이기 때문에 사용자들은 이 과정을 농담으로 "바다가재 키우기"라고 부릅니다.
관련 특별 주제 추천
재원 소매 애널리스트를 위한 최고의 AI 투자 리서치 도구
소매 애널리스트를 위한 최고의 AI 투자 리서치 도구

XIX.AI가 엄선한 2026년 소매 분석가를 위한 최신 최고 평점 AI 투자 리서치 도구 모음입니다. 이 강력한 도구들은 콘텐츠 제작을 가속화하고, 글쓰기 효율을 높이며, 분석 업무를 간소화하여 전문가들이 AI의 경쟁력을 최대한 발휘할 수 있도록 획기적인 이점을 제공합니다. 무료 버전과 유료 버전의 비교 정보와 함께 실제 테스트 결과 및 상세한 순위 정보를 확인하세요. 지금 바로 살펴보고 여러분에게 딱 맞는 도구를 찾아보세요!

11 도구
xix.ai
암호 최고의 AI 테스트 생성기: API 및 함수용 단위 테스트 작성
최고의 AI 테스트 생성기: API 및 함수용 단위 테스트 작성

2026년 최신의 우수하고 높은 평점을 받은 API 및 함수 개발용 AI 테스트 생성 도구들입니다. XIX.AI는 엄격한 실제 환경 테스트를 거쳐 정확한 결과를 제공하는, 반드시 사용해 볼 만한 강력하고 혁신적인 도구들을 선별하여 제공합니다. 무료 버전과 유료 버전의 상세 비교 분석 자료와 매주 업데이트되는 순위 정보도 확인할 수 있습니다. 지금 바로 살펴보시고 소프트웨어 테스트 분야에서 최적의 도구를 찾아 AI 기반의 경쟁 우위를 확보해 보세요.

7 도구
xix.ai
사업 최고의 AI 사업 계획서 작성 도구: 아이디어를 투자자 프레젠테이션 초안으로 구현하세요
최고의 AI 사업 계획서 작성 도구: 아이디어를 투자자 프레젠테이션 초안으로 구현하세요

2026년 최신 최고 평점을 받은 AI 사업 계획서 생성기들이 XIX.AI에 모였습니다! 이 엄선된 컬렉션에는 크리에이터들이 혁신적인 아이디어를 신속하게 완성도 높은 투자자 프레젠테이션 초안으로 다듬을 수 있도록 도와주는, 판도를 바꿀 만한 강력한 도구들이 포함되어 있습니다. 매주 업데이트되는 순위, 무료와 유료 버전의 비교 분석, 실제 테스트 결과를 통해 생산성을 높이고 최고의 성과를 거둘 수 있는 ‘꼭 사용해봐야 할’ 솔루션을 선택하실 수 있습니다. 지금 바로 살펴보고 자금 조달을 위한 완벽한 도구를 찾아보세요!

11 도구
xix.ai
재원 QuickBooks, Xero 및 다중 법인 계정 조정용 AI 송장 OCR 플랫폼
QuickBooks, Xero 및 다중 법인 계정 조정용 AI 송장 OCR 플랫폼

2026년 최신 최고의 AI 청구서 OCR 플랫폼: QuickBooks, Xero 및 다중 법인 계정 조정용! XIX.AI는 정확한 실전 테스트와 매주 업데이트되는 순위를 바탕으로 최고 평점을 받은 강력한 도구 목록을 엄선합니다. 이 꼭 사용해봐야 할 솔루션들은 복잡한 비즈니스 환경 전반에서 청구서 처리 과정을 간소화하고, 생산성을 높이며, 시간을 절약해 줍니다. 무료 버전과 유료 버전을 비교해 보시고 귀사에 가장 적합한 솔루션을 찾아보세요. 지금 바로 살펴보고 AI의 경쟁력을 확보하세요!

8 도구
xix.ai
사업 기업 제안서 작업 흐름을 위한 AI RFP 응답 소프트웨어
기업 제안서 작업 흐름을 위한 AI RFP 응답 소프트웨어

2026년 최신의 기업 제안서 작성을 위한 최고의 AI RFP 응답 소프트웨어! XIX.AI는 엄격한 실제 환경 테스트를 통과한 우수한 도구들을 엄선하여 제공하며, 생산성을 향상시키고 제안서 작성 과정을 간소화해 주는 유용한 기능들을 선보입니다. 무료 버전과 유료 버전의 비교 정보를 확인하고, 상세한 순위를 살펴보며, 이러한 혁신적인 솔루션이 어떻게 더 빠르고 고품질의 응답문을 작성하는 데 도움을 주는지 알아보세요. 지금 바로 확인하여 AI를 활용한 경쟁 우위를 확보해 보세요!

9 도구
xix.ai
비디오 제작 AI 자막 및 더빙 도구: 전 세계 시청자를 위한 동영상 현지화
AI 자막 및 더빙 도구: 전 세계 시청자를 위한 동영상 현지화

2026년 최신 최고 평점을 받은 AI 자막 및 더빙 도구 모음: 전 세계 시청자를 위한 동영상 현지화를 위해 엄선된 솔루션. 획기적인 정확도로 언어 장벽을 넘어 콘텐츠의 도달 범위를 강력하게 확대하세요. 실제 테스트를 통해 검증된 이 필수 솔루션들은 무료와 유료 버전의 비교 정보 및 신뢰할 수 있는 순위를 제공하여 생산성을 극대화합니다. 지금 바로 살펴보고 글로벌 콘텐츠 배포에 최적화된 도구를 찾아보세요.

10 도구
xix.ai
의견 (0)
0/500
OR