지푸, GLM-5.1 고속 버전으로 세계 AI 속도 기록을 경신했다
중국의 유명한 AI 팀인 지푸는 오늘 일부 기업 고객을 대상으로 새로운 GLM-5.1 고속 API를 출시한다고 공식적으로 발표했습니다. “GLM-5.1-highspeed”라는 코드명으로 불리는 이 모델은 출시 이후 업계에 큰 충격을 주었으며, 초당 400개의 토큰을 출력하는 빠른 속도를 자랑합니다.
이 수치는 현재 주요 대형 모델 제공업체들이 설정한 전 세계 API 속도 기준을 직접 넘어서며, 강력한 기술적 우위를 보여줍니다. 이전에는 AI 업계에서 모델의 속도와 크기가 상충된다고 여겨져 왔으며, 더 빠른 속도를 얻기 위해서는 모델의 기능을 타협해야 한다고 생각되었습니다.
업계 규범을 깨는 플래그십 성능
하지만 GLM-5.1 고속 버전은 “빠르다는 것은 작다는 것”이라는 오랫동안 지켜져 온 업계의 믿음을 깨뜨렸습니다. 국내 대형 모델 중에서 처음으로 플래그십 수준의 기술적 성능과 초저 지연 시간을 실제 생산 환경에 적용하는 데 성공했습니다.
보도에 따르면, 이 모델은 지푸의 GLM 팀과 TileRT 팀이 공동으로 개발했습니다. 두 팀은 추론 엔진, 스케줄링 시스템, 기반 인프라 등 세 가지 계층에서 깊이 있고 포괄적인 시스템 수준의 최적화를 진행했으며, 전통적인 동적 스케줄링 방식을 벗어났습니다.
3단계 최적화로 안정적인 출력 보장
기술적 측면에서 개발 팀은 모델 아키텍처의 핵심 추론 경로를 재작성하여 단일 카드의 처리량을 높였으며, 동적 배치와 같은 기술을 통해 고동시성 시나리오에서의 지연 시간을 줄였습니다. 동시에 인프라 관련 협력 최적화를 통해 초당 400개의 TPS가 안정적이고 실용적인 생산 수준의 성능으로 확보되었습니다.
이 고속 모델은 다양한 응용 분야에서 큰 잠재력을 가지고 있으며, 특히 응답 지연 시간에 엄격한 요구가 있는 상황에 매우 적합합니다. AI 프로그래밍, 실시간 음성 상호작용, 빈번한 비즈니스 결정 등 다양한 분야에서 이 모델을 활용할 수 있으며, 현재 지푸의 MaaS 플랫폼을 통해 일부 기업들이 이 모델을 사용하고 있습니다.
관련 기사
ChatGPT의 심층 통합을 통해 대화를 통해 30만 편의 영화와 TV 프로그램을 이용할 수 있게 되었습니다
스트리밍 서비스들이 끝없는 콘텐츠로 시장을 포화시키면서, 사용자들이 수많은 콘텐츠 속에서 실제로 원하는 것을 찾아낼 수 있도록 돕는 것이 업계의 중요한 과제로 대두되고 있다.4월 9일, 주요 스트리밍 업체들은 ChatGPT 애플리케이션 생태계와의 통합을 공식 발표했습니다. 이 기술을 플랫폼에 기본적으로 내장한 최초의 플랫폼이 됨으로써, 해당 서비스는 AI
SEO 순위 향상을 위한 코어 웹 바이탈 개선 방법
AI 기반 자막으로 영상 편집 워크플로우를 혁신하세요목차:소개자동 자막 생성의 주요 장점정확성 확보 및 결과물 다듬기자막 내 검색 기능 활용기존 파일의 원활한 가져오기Transcript.com 소개Transcript.com으로 간편해진 편집유연한 내보내기 형식포괄적인 언어 지원결론소개Transcripted는 AI를 활용하여 자동 자막을 생성하는 Premie
딩톡, 알리AI의 MuleRun을 활용해 아키텍처를 재구축하며 ‘풀 에이전트’ 시대를 열다
딩톡의 신임 CEO이자 우콩(Wukong) 사업부 책임자인 천유센(Chen Yusen)은 오늘 오후 배포된 내부 메모를 통해 대대적인 조직 개편을 발표했다. 딩톡은 ‘핵심 플랫폼 사업부’를 신설하고 AI 에이전트 팀을 완전히 통합함으로써 기업 협업 생태계의 지능형 전환을 가속화하고 있다.이번 개편은 AI 기술을 핵심 비즈니스 운영에 심층적으로 통합하는 데
관련 특별 주제 추천
의견 (0)
0/500
중국의 유명한 AI 팀인 지푸는 오늘 일부 기업 고객을 대상으로 새로운 GLM-5.1 고속 API를 출시한다고 공식적으로 발표했습니다. “GLM-5.1-highspeed”라는 코드명으로 불리는 이 모델은 출시 이후 업계에 큰 충격을 주었으며, 초당 400개의 토큰을 출력하는 빠른 속도를 자랑합니다.
이 수치는 현재 주요 대형 모델 제공업체들이 설정한 전 세계 API 속도 기준을 직접 넘어서며, 강력한 기술적 우위를 보여줍니다. 이전에는 AI 업계에서 모델의 속도와 크기가 상충된다고 여겨져 왔으며, 더 빠른 속도를 얻기 위해서는 모델의 기능을 타협해야 한다고 생각되었습니다.
업계 규범을 깨는 플래그십 성능
하지만 GLM-5.1 고속 버전은 “빠르다는 것은 작다는 것”이라는 오랫동안 지켜져 온 업계의 믿음을 깨뜨렸습니다. 국내 대형 모델 중에서 처음으로 플래그십 수준의 기술적 성능과 초저 지연 시간을 실제 생산 환경에 적용하는 데 성공했습니다.
보도에 따르면, 이 모델은 지푸의 GLM 팀과 TileRT 팀이 공동으로 개발했습니다. 두 팀은 추론 엔진, 스케줄링 시스템, 기반 인프라 등 세 가지 계층에서 깊이 있고 포괄적인 시스템 수준의 최적화를 진행했으며, 전통적인 동적 스케줄링 방식을 벗어났습니다.
3단계 최적화로 안정적인 출력 보장
기술적 측면에서 개발 팀은 모델 아키텍처의 핵심 추론 경로를 재작성하여 단일 카드의 처리량을 높였으며, 동적 배치와 같은 기술을 통해 고동시성 시나리오에서의 지연 시간을 줄였습니다. 동시에 인프라 관련 협력 최적화를 통해 초당 400개의 TPS가 안정적이고 실용적인 생산 수준의 성능으로 확보되었습니다.
이 고속 모델은 다양한 응용 분야에서 큰 잠재력을 가지고 있으며, 특히 응답 지연 시간에 엄격한 요구가 있는 상황에 매우 적합합니다. AI 프로그래밍, 실시간 음성 상호작용, 빈번한 비즈니스 결정 등 다양한 분야에서 이 모델을 활용할 수 있으며, 현재 지푸의 MaaS 플랫폼을 통해 일부 기업들이 이 모델을 사용하고 있습니다.
ChatGPT의 심층 통합을 통해 대화를 통해 30만 편의 영화와 TV 프로그램을 이용할 수 있게 되었습니다
스트리밍 서비스들이 끝없는 콘텐츠로 시장을 포화시키면서, 사용자들이 수많은 콘텐츠 속에서 실제로 원하는 것을 찾아낼 수 있도록 돕는 것이 업계의 중요한 과제로 대두되고 있다.4월 9일, 주요 스트리밍 업체들은 ChatGPT 애플리케이션 생태계와의 통합을 공식 발표했습니다. 이 기술을 플랫폼에 기본적으로 내장한 최초의 플랫폼이 됨으로써, 해당 서비스는 AI
SEO 순위 향상을 위한 코어 웹 바이탈 개선 방법
AI 기반 자막으로 영상 편집 워크플로우를 혁신하세요목차:소개자동 자막 생성의 주요 장점정확성 확보 및 결과물 다듬기자막 내 검색 기능 활용기존 파일의 원활한 가져오기Transcript.com 소개Transcript.com으로 간편해진 편집유연한 내보내기 형식포괄적인 언어 지원결론소개Transcripted는 AI를 활용하여 자동 자막을 생성하는 Premie
딩톡, 알리AI의 MuleRun을 활용해 아키텍처를 재구축하며 ‘풀 에이전트’ 시대를 열다
딩톡의 신임 CEO이자 우콩(Wukong) 사업부 책임자인 천유센(Chen Yusen)은 오늘 오후 배포된 내부 메모를 통해 대대적인 조직 개편을 발표했다. 딩톡은 ‘핵심 플랫폼 사업부’를 신설하고 AI 에이전트 팀을 완전히 통합함으로써 기업 협업 생태계의 지능형 전환을 가속화하고 있다.이번 개편은 AI 기술을 핵심 비즈니스 운영에 심층적으로 통합하는 데





집






