알리바바의 '제로서치' AI, 자율 학습으로 교육 비용 88% 절감

알리바바의 제로서치: AI 학습 효율성의 판도를 바꾸는 방법
알리바바 그룹 연구원들은 값비싼 상용 검색 엔진 API를 완전히 우회하여 AI 시스템이 정보 검색을 학습하는 방식을 혁신할 수 있는 획기적인 방법을 개척했습니다. 이들의 제로서치 기술은 대규모 언어 모델이 훈련 단계에서 기존의 검색 엔진 상호 작용 대신 시뮬레이션 환경을 통해 정교한 검색 능력을 배양할 수 있도록 지원합니다.
"기존의 강화 학습은 광범위한 검색 요청을 필요로 하기 때문에 상당한 API 비용이 누적되고 확장성을 저해합니다."라고 연구진은 새로 발표된 arXiv 논문에서 설명합니다. "제로서치는 실제 검색 엔진과 무관하게 LLM 검색 기능을 향상시키는 비용 효율적인 강화 학습 프레임워크입니다."
검색 없는 훈련의 메커니즘
현재의 AI 학습 방법은 학습 주기 동안 상용 검색 엔진의 일관되지 않은 문서 품질과 Google 검색과 같은 서비스에 대한 막대한 API 호출로 인한 막대한 비용이라는 두 가지 주요 제약에 직면해 있습니다.
제로서치는 혁신적인 2단계 접근 방식을 구현합니다:
- 초기 감독 미세 조정을 통해 LLM을 문서 생성 모듈로 변환합니다.
- 고급 커리큘럼 기반 강화를 통해 출력 품질을 점진적으로 변화시킵니다.
연구진은 "우리의 근본적인 발견은 사전 훈련된 LLM이 본질적으로 문맥에 적합한 문서를 생성하기에 충분한 세계 지식을 보유하고 있다는 사실을 밝혀냈습니다."라고 말합니다. "시뮬레이션 결과와 실제 검색 결과의 주요 차이점은 실질적인 콘텐츠 차이보다는 문체적인 텍스트 차이에 있습니다."
성능 벤치마크는 상당한 이점을 보여줍니다.
7개의 서로 다른 질문-응답 데이터 세트에 대한 엄격한 테스트를 통해 제로서치의 경쟁 우위를 입증했습니다:
- 70억 개의 매개변수 모델이 Google 검색 정확도와 일치함
- 140억 개의 매개변수 구성이 상용 검색 성능을 능가했습니다.
특히 재정적 영향이 두드러집니다:
- 64,000개의 쿼리를 사용한 기존 훈련: SerpAPI를 통한 $586.70
- 제로서치에 상응하는 비용: A100 GPU 4개 사용 시 $70.80
- 총 비용 절감: 88%
"이러한 결과는 강화 학습 구현에서 기존 검색 엔진을 대체할 수 있는 LLM의 가능성을 입증합니다."라고 연구팀은 결론을 내립니다.
AI 개발에 대한 광범위한 시사점
제로서치는 외부 도구 종속성 없이 자율적인 기능 개발을 입증함으로써 인공지능 훈련 방법론의 패러다임 전환을 의미합니다.
이 기술은 몇 가지 혁신적인 영향을 약속합니다:
- 비용 민주화: 값비싼 API 종속성을 제거하여 스타트업의 재정적 장벽을 낮춥니다.
- 교육 제어: 모델 개발 중 정보 입력을 정밀하게 제어할 수 있습니다.
- 아키텍처 유연성: Qwen-2.5 및 LLaMA-3.2를 포함한 주요 모델 제품군에서 호환 가능
알리바바는 코드베이스, 학습 데이터세트, 사전 학습된 모델을 포함한 전체 구현을 GitHub 및 Hugging Face 리포지토리를 통해 오픈소스화했습니다.
이러한 혁신은 외부 서비스에 의존하지 않고 정교한 시뮬레이션을 통해 고급 기능을 구현하는 새로운 AI 개발 환경을 예고합니다. 이러한 자급자족형 트레이닝 기술이 성숙해지면 현재 주요 플랫폼 API에 의존하는 기술 생태계를 크게 재편할 수 있습니다.
관련 기사
Base44, 방어력을 강화하는 고유 AI 모델을 vibe 코딩 플랫폼에 공개
Base44은 1년 전, 팀이 8명으로 구성되고 설립된 지 불과 6개월 된 상태였을 때 Wix로부터 8,000만 달러에 인수된 vibe 코딩 플랫폼으로, 이제 자연어를 사용하여 애플리케이션을 구축할 수 있도록 자체 AI 모델을 배포하기 시작했습니다.이러한 developments는 최첨단 모델이 모든 사용 사례에 최적인지, 그리고 외부 모델에 의존하는 기업들이 장기적인 방어력을 유지할 수 있는지에 대해 AI 커뮤니티가 논쟁을 벌이는 시점에 이루
영상 생성 스타트업 픽스버스(PixVerse), 4억 3,900만 달러 투자 유치… 기업 가치 20억 달러 돌파
싱가포르에 본사를 둔 영상 생성 스타트업 픽스버스(PixVerse)는 오늘 시리즈 C 확장 라운드를 마감하고, 이번 라운드에서 총 4억 3,900만 달러를 조달했다고 발표했다. 회사에 따르면, 이번 신규 자금 조달로 기업 가치가 20억 달러를 넘어섰다. 조달된 자금은 월드 모델 제품군을 확장하고 전 세계 고객에게 서비스를 확대하는 데 사용될 예정이다.Pi
중국의 AI 동반자 규제: 베이징의 진정한 목표
AI 동반자라는 개념은 디스토피아적으로 보일 수 있지만, 생성형 AI의 위험성에 대한 광범위한 논의에서 반복적으로 등장하는 주제가 되었습니다. 본질적으로 이는 사용자와 지속적이고 개인적인 관계를 유지하도록 설계된 대화형 에이전트를 의미하며, 세션 간 일관성을 보장하는 기억 기능과 일관된 인격을 갖추고 있습니다.이러한 설계 방식은 자연스럽게 정서적 유대감을
관련 특별 주제 추천
의견 (1)
0/500

알리바바의 제로서치: AI 학습 효율성의 판도를 바꾸는 방법
알리바바 그룹 연구원들은 값비싼 상용 검색 엔진 API를 완전히 우회하여 AI 시스템이 정보 검색을 학습하는 방식을 혁신할 수 있는 획기적인 방법을 개척했습니다. 이들의 제로서치 기술은 대규모 언어 모델이 훈련 단계에서 기존의 검색 엔진 상호 작용 대신 시뮬레이션 환경을 통해 정교한 검색 능력을 배양할 수 있도록 지원합니다.
"기존의 강화 학습은 광범위한 검색 요청을 필요로 하기 때문에 상당한 API 비용이 누적되고 확장성을 저해합니다."라고 연구진은 새로 발표된 arXiv 논문에서 설명합니다. "제로서치는 실제 검색 엔진과 무관하게 LLM 검색 기능을 향상시키는 비용 효율적인 강화 학습 프레임워크입니다."
검색 없는 훈련의 메커니즘
현재의 AI 학습 방법은 학습 주기 동안 상용 검색 엔진의 일관되지 않은 문서 품질과 Google 검색과 같은 서비스에 대한 막대한 API 호출로 인한 막대한 비용이라는 두 가지 주요 제약에 직면해 있습니다.
제로서치는 혁신적인 2단계 접근 방식을 구현합니다:
- 초기 감독 미세 조정을 통해 LLM을 문서 생성 모듈로 변환합니다.
- 고급 커리큘럼 기반 강화를 통해 출력 품질을 점진적으로 변화시킵니다.
연구진은 "우리의 근본적인 발견은 사전 훈련된 LLM이 본질적으로 문맥에 적합한 문서를 생성하기에 충분한 세계 지식을 보유하고 있다는 사실을 밝혀냈습니다."라고 말합니다. "시뮬레이션 결과와 실제 검색 결과의 주요 차이점은 실질적인 콘텐츠 차이보다는 문체적인 텍스트 차이에 있습니다."
성능 벤치마크는 상당한 이점을 보여줍니다.
7개의 서로 다른 질문-응답 데이터 세트에 대한 엄격한 테스트를 통해 제로서치의 경쟁 우위를 입증했습니다:
- 70억 개의 매개변수 모델이 Google 검색 정확도와 일치함
- 140억 개의 매개변수 구성이 상용 검색 성능을 능가했습니다.
특히 재정적 영향이 두드러집니다:
- 64,000개의 쿼리를 사용한 기존 훈련: SerpAPI를 통한 $586.70
- 제로서치에 상응하는 비용: A100 GPU 4개 사용 시 $70.80
- 총 비용 절감: 88%
"이러한 결과는 강화 학습 구현에서 기존 검색 엔진을 대체할 수 있는 LLM의 가능성을 입증합니다."라고 연구팀은 결론을 내립니다.
AI 개발에 대한 광범위한 시사점
제로서치는 외부 도구 종속성 없이 자율적인 기능 개발을 입증함으로써 인공지능 훈련 방법론의 패러다임 전환을 의미합니다.
이 기술은 몇 가지 혁신적인 영향을 약속합니다:
- 비용 민주화: 값비싼 API 종속성을 제거하여 스타트업의 재정적 장벽을 낮춥니다.
- 교육 제어: 모델 개발 중 정보 입력을 정밀하게 제어할 수 있습니다.
- 아키텍처 유연성: Qwen-2.5 및 LLaMA-3.2를 포함한 주요 모델 제품군에서 호환 가능
알리바바는 코드베이스, 학습 데이터세트, 사전 학습된 모델을 포함한 전체 구현을 GitHub 및 Hugging Face 리포지토리를 통해 오픈소스화했습니다.
이러한 혁신은 외부 서비스에 의존하지 않고 정교한 시뮬레이션을 통해 고급 기능을 구현하는 새로운 AI 개발 환경을 예고합니다. 이러한 자급자족형 트레이닝 기술이 성숙해지면 현재 주요 플랫폼 API에 의존하는 기술 생태계를 크게 재편할 수 있습니다.
Base44, 방어력을 강화하는 고유 AI 모델을 vibe 코딩 플랫폼에 공개
Base44은 1년 전, 팀이 8명으로 구성되고 설립된 지 불과 6개월 된 상태였을 때 Wix로부터 8,000만 달러에 인수된 vibe 코딩 플랫폼으로, 이제 자연어를 사용하여 애플리케이션을 구축할 수 있도록 자체 AI 모델을 배포하기 시작했습니다.이러한 developments는 최첨단 모델이 모든 사용 사례에 최적인지, 그리고 외부 모델에 의존하는 기업들이 장기적인 방어력을 유지할 수 있는지에 대해 AI 커뮤니티가 논쟁을 벌이는 시점에 이루
영상 생성 스타트업 픽스버스(PixVerse), 4억 3,900만 달러 투자 유치… 기업 가치 20억 달러 돌파
싱가포르에 본사를 둔 영상 생성 스타트업 픽스버스(PixVerse)는 오늘 시리즈 C 확장 라운드를 마감하고, 이번 라운드에서 총 4억 3,900만 달러를 조달했다고 발표했다. 회사에 따르면, 이번 신규 자금 조달로 기업 가치가 20억 달러를 넘어섰다. 조달된 자금은 월드 모델 제품군을 확장하고 전 세계 고객에게 서비스를 확대하는 데 사용될 예정이다.Pi
중국의 AI 동반자 규제: 베이징의 진정한 목표
AI 동반자라는 개념은 디스토피아적으로 보일 수 있지만, 생성형 AI의 위험성에 대한 광범위한 논의에서 반복적으로 등장하는 주제가 되었습니다. 본질적으로 이는 사용자와 지속적이고 개인적인 관계를 유지하도록 설계된 대화형 에이전트를 의미하며, 세션 간 일관성을 보장하는 기억 기능과 일관된 인격을 갖추고 있습니다.이러한 설계 방식은 자연스럽게 정서적 유대감을





집






