Osaurus, Mac에서 로컬 및 클라우드 AI 모델 통합

AI 모델이 점점 더 대중화됨에 따라, 스타트업들은 이를 기반으로 작동하는 소프트웨어 레이어를 개발하기 위해 경쟁하고 있습니다. 이 분야의 주목할 만한 주자는 오픈소스이자 Mac 전용 LLM 서버인 ‘오사우루스(Osaurus)’입니다. 이 서버를 통해 사용자는 파일과 도구를 자신의 하드웨어에 안전하게 보관한 채로, 다양한 로컬 또는 클라우드 기반 AI 모델 간에 자유롭게 전환할 수 있습니다.

오사우루스는 '디노키(Dinoki)'라는 데스크톱 AI 동반자 개념에서 비롯되었으며, 공동 창업자 테렌스 페이(Terence Pae)는 이를 "AI 기반 클리피(Clippy)"에 비유했다. 잠재 고객들은 AI 기업들이 프롬프트 처리 및 응답 생성을 위해 청구하는 단위인 토큰 비용을 여전히 지불해야 한다면 왜 이 앱을 구매해야 하는지 의문을 제기했다.

이에 페이는 AI를 로컬에서 실행하는 가능성을 더 깊이 탐구하게 되었습니다.

테슬라와 넷플릭스에서 소프트웨어 엔지니어로 근무했던 페이는 테크크런치와의 인터뷰에서 "그렇게 오사우루스가 시작되었습니다"라고 설명했습니다. 초기 아이디어는 AI 어시스턴트를 사용자의 기기에서 직접 실행해 보는 것이었습니다. "파일 탐색, 웹 브라우저 접속, 시스템 구성 확인 등 거의 모든 작업을 맥(Mac)에서 로컬로 수행할 수 있습니다. 저는 이것이 오사우루스를 개인 사용자를 위한 개인용 AI로 완벽하게 포지셔닝할 수 있다는 점을 깨달았습니다."

Pae는 이 도구를 오픈소스 프로젝트로 공개적으로 개발하기 시작했으며, 그 과정에서 지속적으로 기능을 추가하고 버그를 수정해 나갔습니다.

이미지 출처: Osaurus, Inc.

현재 오사우루스는 로컬에 호스팅된 AI 모델이나 오픈AI(OpenAI), 앤트로픽(Anthropic)과 같은 클라우드 제공업체에 유연하게 연결할 수 있는 기능을 제공합니다. 사용자는 모델의 메모리, 개인 파일, 도구 등 AI 경험의 다른 측면은 자신의 하드웨어에 유지한 채, 선호하는 AI 모델을 자유롭게 선택할 수 있습니다.

각기 다른 AI 모델은 고유한 강점을 지니고 있으므로, 이 시스템의 장점은 사용자가 특정 작업에 가장 적합한 모델로 전환할 수 있게 해준다는 점에 있습니다.

이러한 아키텍처 덕분에 Osaurus는 OpenClaw나 Hermes와 같은 플랫폼과 유사하게, 단일 인터페이스를 통해 다양한 AI 모델, 도구 및 워크플로를 통합하는 제어 계층인 "하네스(harness)"로 분류됩니다. 그러나 이러한 도구들은 대개 터미널 명령어에 익숙한 개발자를 위해 설계된 경우가 많습니다. OpenClaw의 경우처럼 보안 취약점을 유발할 수도 있습니다.

반면, Osaurus는 일반 사용자를 위한 사용자 친화적인 인터페이스를 제공하며, 하드웨어적으로 격리된 가상 샌드박스 내에서 작동함으로써 보안 문제를 해결합니다. 이를 통해 AI의 접근을 정의된 범위로 제한하여 사용자의 컴퓨터와 데이터를 보호합니다.

이미지 출처: Osaurus, Inc.

AI 모델을 로컬에서 실행하는 것은 여전히 초기 단계의 관행입니다. 이는 상당한 리소스를 필요로 하며 하드웨어에 크게 의존하기 때문입니다. 로컬 모델을 운영하려면 시스템에 최소 64GB의 RAM이 필요합니다. DeepSeek v4와 같은 더 큰 모델의 경우, Pae는 약 128GB의 RAM을 갖춘 시스템을 권장합니다.

그럼에도 Pae는 로컬 AI에 필요한 하드웨어 사양이 시간이 지남에 따라 줄어들 것이라고 확신합니다.

"로컬 AI의 핵심 지표인 와트당 지능(intelligence per watt)이 급격히 상승하고 있기 때문에 그 잠재력을 인정합니다. 이는 독자적인 혁신 궤도를 타고 있습니다. 작년에는 로컬 AI가 문장을 완성하는 데 어려움을 겪었지만, 오늘날에는 도구를 실행하고, 코드를 작성하며, 브라우저에 접속하고, 심지어 아마존에서 주문까지 할 수 있습니다. 지속적으로 발전하고 있습니다,"라고 그는 언급했습니다.

이미지 출처: Osaurus, Inc.

현재 Osaurus는 MiniMax M2.5, Gemma 4, Qwen3.6, GPT-OSS, Llama, DeepSeek V4 등의 모델을 지원한다. 또한 Apple의 온디바이스 파운데이션 모델, Liquid AI의 LFM 온디바이스 모델 제품군, 그리고 OpenAI, Anthropic, Gemini, xAI/Grok, Venice AI, OpenRouter, Ollama, LM Studio와의 클라우드 연결을 통합합니다.

완전한 MCP(Model Context Protocol) 서버로서, MCP와 호환되는 모든 클라이언트가 사용자의 도구에 액세스할 수 있도록 지원합니다. 또한 메일, 캘린더, 비전, macOS 유틸리티, XLSX, PPTX, 브라우저, 음악, Git, 파일 시스템, 검색, Fetch 등을 위한 20개 이상의 기본 플러그인이 사전 탑재되어 있습니다.

최근 업데이트를 통해 Osaurus에 음성 기능이 추가되었습니다.

웹사이트에 따르면, 약 1년 전 출시된 이래 이 프로젝트는 112,000회 이상 다운로드되었습니다.

공동 창립자 샘 유(Sam Yoo)를 포함한 창립자들은 현재 뉴욕에 기반을 둔 스타트업 액셀러레이터 '얼라이언스(Alliance)'에 참여하고 있습니다. 또한 이들은 향후 로컬 LLM이 데이터 개인정보 보호 문제를 해결하는 데 도움이 될 수 있는 법률이나 의료 분야 등의 기업에 Osaurus를 제공하는 것을 포함한 향후 계획을 세우고 있습니다.

로컬 AI 모델의 성능이 강화됨에 따라, 팀은 대규모 AI 데이터 센터에 대한 의존도를 낮출 수 있을 것으로 보고 있습니다.

"우리는 AI 분야의 폭발적인 성장을 목격하고 있으며, 클라우드 제공업체들은 방대한 데이터 센터와 인프라를 활용해 규모를 확장해야 합니다. 하지만 우리는 로컬 AI의 가치가 여전히 제대로 평가받지 못하고 있다고 생각합니다,"라고 배 씨는 말했다. "클라우드에 의존하는 대신, 기업들은 온프레미스에 맥 스튜디오(Mac Studio)를 구축해 전력을 훨씬 적게 소비할 수 있습니다. 원격 데이터 센터에 의존하지 않고도 AI를 실행하면서 클라우드와 유사한 기능을 유지할 수 있습니다,"라고 그는 덧붙였다.