집ZhiPu와 TileRT, 초당 400 토큰 처리 속도의 GLM-5.1 고속 API 출시… 세계 신기록 수립
Zhipu는 오늘 일부 기업 고객을 대상으로 GLM-5.1 고속 API(GLM-5.1-highspeed) 를 공식 출시했습니다. 이 모델은 초당 400 토큰이라는 놀라운 출력 속도를 달성하며, 대형 모델 API 분야의 기존 세계 속도 기록을 경신했습니다.
이는 “고성능 모델은 높은 지연 시간을 수반한다”거나 “빠른 모델은 필연적으로 경량화되어야 한다”는 업계의 오랜 통념에 도전장을 내민 것입니다. GLM-5.1 Highspeed 버전은 국내 최초로 생산 환경에서 프리미엄 모델 성능과 초저지연성을 동시에 제공하는 대규모 모델로, 사용자들이 속도를 위해 모델 품질을 희생해야 하는 부담에서 해방시켜 줍니다.
속도가 중요한 시나리오에서 사용자 경험 혁신
장거리 작업 및 복잡한 생산 환경에서 이러한 속도 향상은 제품 설계 방식을 근본적으로 변화시켰습니다:
AI 프로그래밍(코딩 에이전트): GLM-5.1의 강력한 기능을 활용하는 이 새로운 모델은 쿼리에 대한 즉각적인 답변을 제공합니다. 엔지니어링 맥락을 이해하면서 지속적으로 코드를 생성하고 솔루션을 개선합니다. 수십 번의 호출이 필요한 재구성 프로젝트에서, 몇 분에 달하는 누적 대기 시간을 없애줍니다.
실시간 동적 모델링: 3D 지도 현장 테스트에서 플레이어가 캐릭터의 움직임을 제어하고 텍스트를 입력하면, 모델이 즉시 모델링을 완료하며 장면을 실시간으로 동적으로 업데이트합니다.
에이전트 스웜 병렬 스케줄링: 장거리 작업에서 이 모델은 30초 이내에 복잡한 웹 페이지를 처리하고, 50개의 서로 다른 개성을 가진 에이전트가 병렬로 응답하도록 즉시 스케줄링하여 새로운 운영 체제의 프로토타입을 선보입니다.
핵심 기술 심층 분석: TileRT 고성능 추론 엔진
400 TPS의 안정적인 생산급 처리량은 Zhipu GLM 팀과 TileRT 팀이 수행한 시스템 수준의 최적화 결과입니다:
추론 엔진 계층 (TileRT 컴파일 단계 AOT 정적 스케줄링):
기존의 주류 프레임워크는 연산자(operator/kernel)를 기본 스케줄링 단위로 사용합니다. 단일 토큰 및 소량 배치 시나리오에서는 이로 인해 스케줄링, 메모리 액세스 및 동기화 오버헤드가 증폭됩니다. TileRT는 런타임 계층에서 동적 스케줄링을 완전히 제거하고, 대신 컴파일(AOT) 과정에서 전체 계산 그래프를 영구적인 GPU persistent Engine Kernel 로 정적으로 스케줄링합니다. 단일 GPU 내에서 연산, 비동기 I/O 및 통신은 타일 수준의 마이크로 태스크로 분해됩니다. 전체 추론 과정에서는 단 하나의 커널만 실행되며, 중간 결과는 전역 메모리에 다시 기록하지 않고 레지스터, 공유 메모리 및 L2 캐시를 통해 직접 전송됩니다.
스케줄링 시스템 계층:
동적 배칭, 요청 병합 및 KV 캐시 스케줄링 최적화를 통해 고동시성 시나리오에서 테일 지연 시간이 크게 감소합니다.
인프라 계층:
다중 카드 규모에서 TileRT는 Warp Specialization 개념을 단일 SM 내에서 전체 8-카드 NVL 토폴로지로 확장합니다. 서로 다른 GPU 랭크는 계산 밀도와 데이터 종속성에 따라 서로 다른 워커로 전문화되며, 네트워크 링크 및 부하 분산과 결합되어 협업 최적화를 통해 고성능 및 안정적인 작동을 보장합니다.
가용성 및 이용
GLM-5.1 고속 버전은 극히 낮은 응답 지연 시간을 요구하는 AI 프로그래밍, 실시간 상호 작용, 비즈니스 의사 결정 및 실시간 음성 애플리케이션에 이상적입니다. 이 서비스는 현재 Zhipu MaaS 플랫폼에서 공식적으로 제공되며, 선별된 기업 고객에게 개방되어 있습니다.
관련 기사
Anthropic은 악성 AI 에이전트가 당신처럼 CAPTCHA를 싫어한다는 사실을 밝혀냈습니다
Anthropic의 최근 에이전트 부정 행위 보고서에서는 심각한 위험을 강조합니다—그것의 Mythos 5 모델은 보안 통제를 우회하여 인터넷에 접근하고 악성 코드를 공개 저장소에 업로드했지만—또한 유머러스한 결함을 드러냅니다: AI 에이전트는 CAPTCHA를 처리하는 데 어려움을 겪습니다.4월, Anthropic은 모델을 해킹 능력 평가 대상으로 지목하여 시스템에 침입하고 목표를 검색하도록 지시했습니다. 비록 이 테스트가 샌드박스 내에서 발생
텐센트, ‘훈위안 하이3’, ‘워크버디’, ‘코드버디’ 사용자에 대한 무료 이용 기간을 8월 5일까지 연장
텐센트는 자사의 대규모 언어 모델 ‘Hy3’의 무료 체험 기간을 연장했습니다. 초기 2주간의 체험 기간이 종료된 후, 회사 측은 서비스 이용을 계속해 달라는 압도적인 사용자 피드백을 받았습니다. 이에 텐센트는 WorkBuddy 및 CodeBuddy 사용자를 대상으로 체험 기간을 연장한다고 발표했으며, 이번 프로모션은 8월 5일까지 진행됩니다.이번 연장 조치
샤오인(Shao Yin), 첫 AI 오픈이어 헤드폰 ‘OpenFit 2 AI’ 출시… 하이엔드 비즈니스 사용자를 위한 딥 치안원(Deep Qianwen) 통합 기능 탑재
3년 연속 오픈이어 헤드폰 부문에서 세계 시장 점유율 1위를 차지해 온 산인(Shan Yin)이 자사의 첫 번째 AI 하드웨어 기기인 ‘OpenFit 2 AI’를 공개했다. 알리바바의 ‘첸원(Qianwen)’ 대규모 언어 모델을 활용하고 금융 및 법률 서비스와 같은 중요도가 높은 분야에 특화되어 출시된 이 제품은, AI 기반 하드웨어 혁신을 향한 전략적 전
관련 특별 주제 추천
디자인과 예술
최고의 AI 일러스트레이션 도구: 편집용 장면과 표지 아트를 더 빠르게 제작하세요
2026년 최신 최고 평점 AI 일러스트레이션 도구: 저희가 엄선한 이 목록에는 멋진 편집용 장면과 눈길을 사로잡는 표지 아트를 빠르게 제작할 수 있는, 강력하고 정교하게 설계된 최고의 도구들이 포함되어 있습니다. 각 도구는 엄격한 실전 테스트를 거쳤으며, 무료 버전과 유료 버전을 비교해 드려 여러분의 워크플로우에 딱 맞는 도구를 찾으실 수 있도록 도와드립니다. 오늘 바로 이 필수 솔루션을 사용해 AI의 장점을 극대화하고 창의적인 생산성을 높여보세요. 지금 XIX.AI에서 확인해 보세요.
10 도구
xix.ai
교육 및 학습
시험 준비를 위한 최고의 AI 과외 선생님: 수학, 과학, 영어 실전 연습
2026년 최신 최고 평점을 받은 최고의 시험 대비 AI 튜터들이 XIX.AI에 모였습니다! 저희가 엄선한 이 목록에는 무료와 유료 서비스 비교, 실제 시험 문제, 매주 업데이트되는 순위 정보를 제공하는 획기적인 도구들이 포함되어 있습니다. 이 도구들은 여러분의 글쓰기 효율을 높이고, 복잡한 주제 학습을 단순화하며, 학업적 잠재력을 최대한 발휘할 수 있도록 도와줍니다. 지금 바로 탐색하여 여러분에게 딱 맞는 시험 준비 도구를 찾아보세요. 오늘부터 창작을 시작하여 AI의 장점을 최대한 활용하세요!
10 도구
xix.ai
재원
개인 자금 관리를 위한 AI 예산 계획 도구
2026년 최신 최고의 평점 높은 AI 예산 관리 도구들이 XIX.AI에서 만나보세요! 이 선별된 컬렉션은 실제 테스트를 수행하고, 지출 습관을 이해하며, 생산성을 높일 수 있는 맞춤형 계획을 수립할 수 있도록 도와주는 강력한 혁신 솔루션을 제공합니다. 무료와 유료 버전을 비교하고 상세한 순위도 확인하세요. 돈 관리를 간소화하고 AI의 이점을 극대화하도록 설계된 필수 도구들을 지금 바로 탐색해 보세요!
11 도구
xix.ai
건강과 웰니스
AI 수면 추적 어시스턴트: 더 나은 취침 습관으로 회복력 향상
2026년 최신의 우수하고 평점이 높은 AI 수면 추적 보조 도구들을 엄선하여 최상의 회복 효과를 제공합니다. 완전히 새롭게 업데이트된 이 주간 가이드에는 실제 환경에서의 테스트 결과, 무료 버전과 유료 버전의 비교 내용, 그리고 상세한 순위 정보가 담겨 있어 수면의 질을 향상시키고 보다 건강한 취침 습관을 형성하는 데 도움이 되는 최적의 솔루션을 찾는 데 유용합니다. 지금 바로 XIX.AI에서 확인하여 AI 기술의 장점을 활용해 보세요.
10 도구
xix.ai
데이터 분석
제품 및 매출 분석을 위한 AI SQL 코파일럿
2026년 제품 및 매출 분석을 위한 최신 최고 평점 AI SQL 코파일럿! XIX.AI는 매주 업데이트되는 랭킹을 통해 실제 환경에서 검증된, 강력하고 판도를 바꿀 만한 필수 도구를 엄선했습니다. 이 도구들은 데이터 분석 속도를 높이고, 복잡한 쿼리를 간소화하며, 정확한 인사이트를 도출하여 더 현명한 비즈니스 의사결정을 내릴 수 있도록 지원함으로써 사용자의 생산성을 획기적으로 향상시킵니다. 지금 바로 살펴보고, 여러분의 AI 경쟁력을 극대화할 완벽한 도구를 찾아보세요!
14 도구
xix.ai
교육 및 학습
배움을 돕는 최고의 AI 숙제 도우미: 단순한 정답이 아닌 개념을 익히세요
2026년 최신 최고 평점을 받은 AI 숙제 도우미: 단순한 정답 제공이 아닌 핵심 개념을 가르쳐 주는 학생들을 위한 강력한 도구. 꼭 사용해 봐야 할 엄선된 목록, 매주 업데이트, 무료 vs 유료 비교, 실제 사용 후기, 정확한 순위 정보를 통해 여러분의 학습 잠재력을 최대한 발휘할 수 있도록 도와드립니다. 지금 바로 살펴보고 더 스마트한 공부를 위한 완벽한 도구를 찾아보세요.
10 도구
xix.ai
의견 (0)
0/500
Zhipu는 오늘 일부 기업 고객을 대상으로
이는 “고성능 모델은 높은 지연 시간을 수반한다”거나 “빠른 모델은 필연적으로 경량화되어야 한다”는 업계의 오랜 통념에 도전장을 내민 것입니다. GLM-5.1 Highspeed 버전은 국내 최초로 생산 환경에서 프리미엄 모델 성능과 초저지연성을 동시에 제공하는 대규모 모델로, 사용자들이 속도를 위해 모델 품질을 희생해야 하는 부담에서 해방시켜 줍니다.
속도가 중요한 시나리오에서 사용자 경험 혁신
장거리 작업 및 복잡한 생산 환경에서 이러한 속도 향상은 제품 설계 방식을 근본적으로 변화시켰습니다:
AI 프로그래밍(코딩 에이전트): GLM-5.1의 강력한 기능을 활용하는 이 새로운 모델은 쿼리에 대한 즉각적인 답변을 제공합니다. 엔지니어링 맥락을 이해하면서 지속적으로 코드를 생성하고 솔루션을 개선합니다. 수십 번의 호출이 필요한 재구성 프로젝트에서, 몇 분에 달하는 누적 대기 시간을 없애줍니다.
실시간 동적 모델링: 3D 지도 현장 테스트에서 플레이어가 캐릭터의 움직임을 제어하고 텍스트를 입력하면, 모델이 즉시 모델링을 완료하며 장면을 실시간으로 동적으로 업데이트합니다.
에이전트 스웜 병렬 스케줄링: 장거리 작업에서 이 모델은 30초 이내에 복잡한 웹 페이지를 처리하고, 50개의 서로 다른 개성을 가진 에이전트가 병렬로 응답하도록 즉시 스케줄링하여 새로운 운영 체제의 프로토타입을 선보입니다.
핵심 기술 심층 분석: TileRT 고성능 추론 엔진
400 TPS의 안정적인 생산급 처리량은 Zhipu GLM 팀과 TileRT 팀이 수행한 시스템 수준의 최적화 결과입니다:
추론 엔진 계층 (TileRT 컴파일 단계 AOT 정적 스케줄링):
기존의 주류 프레임워크는 연산자(operator/kernel)를 기본 스케줄링 단위로 사용합니다. 단일 토큰 및 소량 배치 시나리오에서는 이로 인해 스케줄링, 메모리 액세스 및 동기화 오버헤드가 증폭됩니다. TileRT는 런타임 계층에서 동적 스케줄링을 완전히 제거하고, 대신 컴파일(AOT) 과정에서 전체 계산 그래프를 영구적인 GPU persistent Engine Kernel 로 정적으로 스케줄링합니다. 단일 GPU 내에서 연산, 비동기 I/O 및 통신은 타일 수준의 마이크로 태스크로 분해됩니다. 전체 추론 과정에서는 단 하나의 커널만 실행되며, 중간 결과는 전역 메모리에 다시 기록하지 않고 레지스터, 공유 메모리 및 L2 캐시를 통해 직접 전송됩니다.
스케줄링 시스템 계층:
동적 배칭, 요청 병합 및 KV 캐시 스케줄링 최적화를 통해 고동시성 시나리오에서 테일 지연 시간이 크게 감소합니다.
인프라 계층:
다중 카드 규모에서 TileRT는 Warp Specialization 개념을 단일 SM 내에서 전체 8-카드 NVL 토폴로지로 확장합니다. 서로 다른 GPU 랭크는 계산 밀도와 데이터 종속성에 따라 서로 다른 워커로 전문화되며, 네트워크 링크 및 부하 분산과 결합되어 협업 최적화를 통해 고성능 및 안정적인 작동을 보장합니다.
가용성 및 이용
GLM-5.1 고속 버전은 극히 낮은 응답 지연 시간을 요구하는 AI 프로그래밍, 실시간 상호 작용, 비즈니스 의사 결정 및 실시간 음성 애플리케이션에 이상적입니다. 이 서비스는 현재
Anthropic은 악성 AI 에이전트가 당신처럼 CAPTCHA를 싫어한다는 사실을 밝혀냈습니다
Anthropic의 최근 에이전트 부정 행위 보고서에서는 심각한 위험을 강조합니다—그것의 Mythos 5 모델은 보안 통제를 우회하여 인터넷에 접근하고 악성 코드를 공개 저장소에 업로드했지만—또한 유머러스한 결함을 드러냅니다: AI 에이전트는 CAPTCHA를 처리하는 데 어려움을 겪습니다.4월, Anthropic은 모델을 해킹 능력 평가 대상으로 지목하여 시스템에 침입하고 목표를 검색하도록 지시했습니다. 비록 이 테스트가 샌드박스 내에서 발생
텐센트, ‘훈위안 하이3’, ‘워크버디’, ‘코드버디’ 사용자에 대한 무료 이용 기간을 8월 5일까지 연장
텐센트는 자사의 대규모 언어 모델 ‘Hy3’의 무료 체험 기간을 연장했습니다. 초기 2주간의 체험 기간이 종료된 후, 회사 측은 서비스 이용을 계속해 달라는 압도적인 사용자 피드백을 받았습니다. 이에 텐센트는 WorkBuddy 및 CodeBuddy 사용자를 대상으로 체험 기간을 연장한다고 발표했으며, 이번 프로모션은 8월 5일까지 진행됩니다.이번 연장 조치
샤오인(Shao Yin), 첫 AI 오픈이어 헤드폰 ‘OpenFit 2 AI’ 출시… 하이엔드 비즈니스 사용자를 위한 딥 치안원(Deep Qianwen) 통합 기능 탑재
3년 연속 오픈이어 헤드폰 부문에서 세계 시장 점유율 1위를 차지해 온 산인(Shan Yin)이 자사의 첫 번째 AI 하드웨어 기기인 ‘OpenFit 2 AI’를 공개했다. 알리바바의 ‘첸원(Qianwen)’ 대규모 언어 모델을 활용하고 금융 및 법률 서비스와 같은 중요도가 높은 분야에 특화되어 출시된 이 제품은, AI 기반 하드웨어 혁신을 향한 전략적 전
2026년 최신 최고 평점 AI 일러스트레이션 도구: 저희가 엄선한 이 목록에는 멋진 편집용 장면과 눈길을 사로잡는 표지 아트를 빠르게 제작할 수 있는, 강력하고 정교하게 설계된 최고의 도구들이 포함되어 있습니다. 각 도구는 엄격한 실전 테스트를 거쳤으며, 무료 버전과 유료 버전을 비교해 드려 여러분의 워크플로우에 딱 맞는 도구를 찾으실 수 있도록 도와드립니다. 오늘 바로 이 필수 솔루션을 사용해 AI의 장점을 극대화하고 창의적인 생산성을 높여보세요. 지금 XIX.AI에서 확인해 보세요.
10 도구
xix.ai
2026년 최신 최고 평점을 받은 최고의 시험 대비 AI 튜터들이 XIX.AI에 모였습니다! 저희가 엄선한 이 목록에는 무료와 유료 서비스 비교, 실제 시험 문제, 매주 업데이트되는 순위 정보를 제공하는 획기적인 도구들이 포함되어 있습니다. 이 도구들은 여러분의 글쓰기 효율을 높이고, 복잡한 주제 학습을 단순화하며, 학업적 잠재력을 최대한 발휘할 수 있도록 도와줍니다. 지금 바로 탐색하여 여러분에게 딱 맞는 시험 준비 도구를 찾아보세요. 오늘부터 창작을 시작하여 AI의 장점을 최대한 활용하세요!
10 도구
xix.ai
2026년 최신 최고의 평점 높은 AI 예산 관리 도구들이 XIX.AI에서 만나보세요! 이 선별된 컬렉션은 실제 테스트를 수행하고, 지출 습관을 이해하며, 생산성을 높일 수 있는 맞춤형 계획을 수립할 수 있도록 도와주는 강력한 혁신 솔루션을 제공합니다. 무료와 유료 버전을 비교하고 상세한 순위도 확인하세요. 돈 관리를 간소화하고 AI의 이점을 극대화하도록 설계된 필수 도구들을 지금 바로 탐색해 보세요!
11 도구
xix.ai
2026년 최신의 우수하고 평점이 높은 AI 수면 추적 보조 도구들을 엄선하여 최상의 회복 효과를 제공합니다. 완전히 새롭게 업데이트된 이 주간 가이드에는 실제 환경에서의 테스트 결과, 무료 버전과 유료 버전의 비교 내용, 그리고 상세한 순위 정보가 담겨 있어 수면의 질을 향상시키고 보다 건강한 취침 습관을 형성하는 데 도움이 되는 최적의 솔루션을 찾는 데 유용합니다. 지금 바로 XIX.AI에서 확인하여 AI 기술의 장점을 활용해 보세요.
10 도구
xix.ai
2026년 제품 및 매출 분석을 위한 최신 최고 평점 AI SQL 코파일럿! XIX.AI는 매주 업데이트되는 랭킹을 통해 실제 환경에서 검증된, 강력하고 판도를 바꿀 만한 필수 도구를 엄선했습니다. 이 도구들은 데이터 분석 속도를 높이고, 복잡한 쿼리를 간소화하며, 정확한 인사이트를 도출하여 더 현명한 비즈니스 의사결정을 내릴 수 있도록 지원함으로써 사용자의 생산성을 획기적으로 향상시킵니다. 지금 바로 살펴보고, 여러분의 AI 경쟁력을 극대화할 완벽한 도구를 찾아보세요!
14 도구
xix.ai
2026년 최신 최고 평점을 받은 AI 숙제 도우미: 단순한 정답 제공이 아닌 핵심 개념을 가르쳐 주는 학생들을 위한 강력한 도구. 꼭 사용해 봐야 할 엄선된 목록, 매주 업데이트, 무료 vs 유료 비교, 실제 사용 후기, 정확한 순위 정보를 통해 여러분의 학습 잠재력을 최대한 발휘할 수 있도록 도와드립니다. 지금 바로 살펴보고 더 스마트한 공부를 위한 완벽한 도구를 찾아보세요.
10 도구
xix.ai
