텐서제로, 기업용 LLM 개발 간소화를 위해 730만 달러의 시드 펀딩 유치

AI 애플리케이션을 위한 오픈소스 인프라 제공업체로 떠오르고 있는 TensorZero는 FirstMark Capital이 주도하는 730만 달러의 시드 펀딩을 확보했으며, 베세머 벤처 파트너스, 베드락, DRW, Coalition 및 다수의 업계 엔젤이 참여했습니다.

이번 투자는 최근 몇 달 동안 별 수가 3,000개에서 9,700개로 3배 가까이 증가하면서 텐서제로의 깃허브 저장소가 글로벌 '인기 저장소 1위'를 달성하는 등 개발자들의 채택이 기하급수적으로 증가한 데 따른 것입니다. 이러한 빠른 성장세는 프로덕션급 AI 솔루션 배포에 대한 기업의 어려움이 커지고 있음을 반영합니다.

AI 인프라 격차 해소

퍼스트마크의 매트 터크는 다음과 같이 말합니다: "AI 애플리케이션에 대한 관심이 급증하고 있지만, 기업들은 복잡한 구현 요구 사항을 충족할 수 있는 강력한 툴이 부족합니다. 텐서제로는 바로 사용할 수 있는 엔터프라이즈급 구성 요소를 제공합니다."라고 말합니다.

브루클린에 본사를 둔 이 스타트업은 모델 액세스, 모니터링, 최적화를 통합하려면 현재 서로 다른 솔루션을 조합해야 하는 대규모 LLM(대규모 언어 모델) 배포의 중요한 문제점을 해결합니다.

핵융합에서 AI 최적화에 이르기까지

텐서제로의 기술 기반은 공동 설립자인 비라즈 메타(Viraj Mehta)가 카네기 멜론에서 핵융합 박사 학위를 받은 연구로부터 시작되었습니다. 5초 측정당 데이터 수집 비용이 3만 달러에 달하는 에너지부 프로젝트에 참여하면서 메타는 각 데이터 포인트의 가치를 극대화하는 강화 학습 접근법을 개발했습니다.

"이러한 희소성 사고방식은 플랫폼 아키텍처에 직접적인 영향을 미쳤습니다."라고 메흐타는 설명합니다. "융합 연구와 마찬가지로 효과적인 AI 구현을 위해서는 시스템을 지속적으로 개선하기 위한 전략적 데이터 활용이 필요합니다."

이러한 관점은 LLM 애플리케이션을 구조화된 피드백을 통해 시스템이 진화하는 강화 학습 문제로 취급하는 TensorZero의 핵심 혁신으로 이어졌습니다.

엔터프라이즈 AI를 위한 통합 플랫폼

여러 공급업체를 통합해야 하는 현재의 단편적인 접근 방식과 달리, TensorZero는 모델 관리, 통합 가시성, 최적화를 시너지를 위해 설계된 단일 오픈 소스 스택에 결합합니다.

"기존 솔루션은 기업들이 함께 작동하도록 설계되지 않은 별도의 도구를 조합하도록 강요합니다."라고 탈중앙화 금융 프로젝트인 Ondo Finance의 공동 설립자이자 전 CPO인 Gabriel Bianconi는 말합니다. "우리는 지속적인 개선 루프를 생성하는 통합 인프라를 구축하고 있습니다."

Rust 기반 플랫폼은 초당 10,000개 이상의 쿼리를 처리하면서 밀리초 미만의 지연 시간을 달성하여 Python 기반 대안보다 훨씬 뛰어난 성능을 자랑합니다.

엔터프라이즈 채택 가속화

상업적 도입이 눈에 띄게 증가하고 있습니다:

• 코드 문서화를 자동화하는 유럽 최고의 은행
• 의료, 금융, 소비자 기술 전반의 시리즈 A/B급 AI 스타트업
• 데이터 규정 준수를 위해 온프레미스 배포가 필요한 기업

기술적 차별화 요소

TensorZero는 LangChain과 같은 프레임워크와 차별화됩니다:

• 프로토타이핑 중심이 아닌 엔드투엔드 프로덕션 지원
• 고급 최적화를 가능하게 하는 구조화된 데이터 수집
• 대규모 엔터프라이즈급 성능
• 벤더 종속성을 완화하는 오픈 소스 기반

향후 로드맵

시드 펀딩이 가속화됩니다:

• 오픈 소스 플랫폼 개발
• 뉴욕에서 팀 확장
• 복잡한 최적화 작업을 위한 매니지드 서비스 제공
• AI 실험을 가속화하기 위한 연구 도구

"우리의 비전은 자기 강화적인 개선 주기를 만드는 것입니다."라고 메흐타는 말합니다. "AI가 점점 더 복잡한 워크플로를 처리함에 따라 우리는 고립된 상황이 아닌 실제 상황에서 성능을 평가해야 합니다."

GitHub 모멘텀과 초기 엔터프라이즈 견인력을 바탕으로 TensorZero는 기업이 AI 실험에서 운영 배포로 전환할 때 중요한 인프라 격차를 해결할 수 있는 위치에 있습니다.