토큰 몬스터는 작업에 최적화된 LLM 및 도구 선택을 자동화합니다.

새로운 AI 챗봇 플랫폼인 토큰 몬스터가 사용자가 대규모 언어 모델(LLM)과 소통하는 방식을 혁신하는 것을 목표로 알파 프리뷰 단계에 돌입했습니다.

OthersideAI의 공동 창립자이자 CEO이자 인기 있는 AI 작문 도구인 Hyperwrite AI를 개발한 매트 슈머가 만든 Token Monster의 가장 큰 특징은 사용자 프롬프트를 주어진 작업에 가장 적합한 LLM으로 지능적으로 라우팅한다는 것입니다. 여러 모델의 기능을 활용하여 더욱 개선되고 정교한 결과물을 제공합니다.

현재 토큰몬스터는 7가지 주요 LLM을 지원합니다. 사용자가 프롬프트를 입력하면 시스템은 슈머가 광범위한 반복을 통해 개발한 신중하게 제작된 사전 프롬프트를 적용하여 입력을 분석하고 모델과 연결된 도구의 이상적인 조합을 결정하며 선택한 각 AI의 고유한 강점을 활용하는 응집력 있는 응답을 생성합니다. 사용 가능한 LLM은 다음과 같습니다:

• 앤트로픽 클로드 3.5 소네트
• 앤트로픽 클로드 3.5 오퍼스
• OpenAI GPT-4.1
• OpenAI GPT-4o
• 퍼플렉서티 AI PPLX(연구용)
• OpenAI o3(추론용)
• 구글 제미니 2.5 프로

토큰 몬스터가 다른 챗봇 플랫폼과 차별화되는 점은 모든 작업에 가장 적합한 모델을 자동으로 결정할 수 있다는 점입니다. 또한 웹 검색이나 코드 실행 환경과 같은 연결된 도구를 사용할 시기를 인식하고 원활한 다중 모델 워크플로우를 조율합니다.

"우리는 무엇을 언제 사용할지 결정하는 지능형 시스템과 함께 모든 것에 대한 연결을 구축하고 있습니다."라고 슈머는 설명합니다.

예를 들어, 시스템은 크리에이티브 작업에는 클로드, 추론 작업에는 o3, 리서치 작업에는 PPLX를 호출할 수 있습니다. 이렇게 하면 사용자가 계속해서 모델을 수동으로 전환할 필요가 없으므로 누구나 쉽게 목적에 맞는 고품질의 결과를 얻을 수 있습니다.

주요 기능

토큰몬스터.ai에서 무료로 가입할 수 있는 알파 프리뷰를 통해 사용자는 엑셀 스프레드시트, 파워포인트 프레젠테이션, 구글 문서 등 다양한 파일 유형을 업로드할 수 있습니다.

다른 주목할 만한 기능으로는 웹페이지 콘텐츠 추출, 영구 채팅 세션, 사용자 개입 없이도 가장 적합한 모델로 프롬프트를 자동으로 안내하는 'FAST 모드'가 있습니다.

토큰 몬스터의 핵심은 다양한 LLM에 대한 액세스를 제공하는 써드파티 서비스인 OpenRouter입니다. 슈머는 개인적으로 이 플랫폼에 적지 않은 금액을 투자했습니다.

이러한 설정을 통해 토큰몬스터는 별도의 인프라나 사용자 정의 통합 없이도 여러 공급자의 모델을 원활하게 통합할 수 있습니다.

가격 및 가용성

현재 토큰몬스터는 고정 월 구독 방식으로 운영되지 않습니다.

대신, 사용자는 OpenRouter를 통해 사용한 토큰에 대해서만 비용을 지불하므로 다양한 사용 수준과 예산에 맞게 플랫폼을 조정할 수 있습니다.

슈머는 이러한 가격 책정 방식은 대규모 사용자에게 무제한의 AI 처리 능력을 제공하여 컴퓨팅 리소스 증가를 통해 더 나은 결과물을 얻을 수 있게 해주는 도구인 Cline에서 영감을 받았다고 언급했습니다.

다단계 워크플로우로 더욱 풍부한 LLM 응답 생성

토큰몬스터의 AI 워크플로는 단순한 모델 선택 그 이상입니다.

예를 들어, 시스템은 웹 검색 API를 사용한 리서치 단계로 시작하여 수집된 정보를 o3에 제공하여 지식 격차를 파악하고, Gemini 2.5 Pro로 개요를 작성하고, Claude Opus로 콘텐츠 초안을 작성하고, Claude 3.5 Sonnet을 사용하여 다듬을 수 있습니다.

이 조율된 다단계 프로세스는 단일 LLM이 자체적으로 생성할 수 있는 것보다 더 상세하고 포괄적인 응답을 생성하는 것을 목표로 합니다.

또한 사용자는 오픈 소스 온라인 데이터베이스인 Supabase를 사용하여 데이터를 안전하게 저장하고 채팅 세션을 저장할 수 있습니다. 이를 통해 사용자는 어떤 데이터를 저장할지, 임시로 보관할지 제어하면서 프로젝트를 원활하게 재개할 수 있습니다.

색다른 CEO

대담한 실험으로 토큰몬스터의 리더십은 앤트로픽의 클로드 모델에 위임되었습니다.

슈머는 이 이니셔티브를 AI의 비즈니스 관리 능력에 대한 실제 테스트의 장으로 삼아 'CEO 클로드'의 모든 결정을 따르기로 약속했습니다.

"우리는 경영을 영원히 혁신했거나 큰 실수를 저질렀습니다."라고 그는 X에 글을 올렸습니다.

리플렉션 70-B 논란에서 벗어나기

토큰 몬스터의 등장은 지난해 메타의 라마 3.1 모델을 미세 조정한 버전인 리플렉션 70B를 출시했다가 철회한 슈머가 논란에 휩싸인 이후입니다.

이 모델은 처음에는 세계 최고 성능의 오픈소스 AI로 홍보되었지만, 독립 연구자들이 주장한 벤치마크 결과를 재현하지 못하자 곧 비판과 사기 혐의에 직면했습니다.

슈머는 너무 성급하게 움직이다가 발생한 실수라며 공개적으로 사과했습니다. 이 사건은 빠른 AI 개발의 광범위한 문제와 모델 릴리스에 대한 투명성 강화의 필요성을 강조했습니다.

향후 MCP 통합

슈머는 또한 토큰몬스터 팀이 모델 컨텍스트 프로토콜(MCP) 서버와의 통합과 같은 새로운 기능을 검토하고 있다고 밝혔습니다.

MCP를 통해 웹사이트와 회사는 LLM이 지식 기반, 도구, 제품에 액세스할 수 있도록 허용하여 기본적인 텍스트나 이미지 생성 이상의 고급 작업을 가능하게 할 수 있습니다.

이를 통해 토큰몬스터는 사용자의 내부 시스템과 인터페이스하여 고객 지원 티켓 관리나 비즈니스 애플리케이션과의 연결과 같은 사용 사례의 문을 열 수 있습니다.

그는 토큰 몬스터가 아직 초기 개발 단계에 있다는 점을 강조했습니다. 이미 강력한 도구 세트를 제공하고 있지만, 아직은 알파 제품이며 사용자 의견을 바탕으로 빠르게 발전할 것으로 예상됩니다. "우리는 계속 반복하고 추가할 것입니다."라고 그는 말했습니다.

유망한 실험

수동 모델 전환의 복잡성 없이 여러 LLM의 결합된 인텔리전스를 활용하고자 하는 사용자에게 토큰 몬스터는 매력적인 솔루션을 제공합니다.

이 솔루션은 프롬프트를 조정하거나 여러 모델을 테스트하는 데 시간을 소비하지 않고 시스템의 자동화된 라우팅과 다단계 워크플로우에 맡겨서 무거운 작업을 관리하고자 하는 사람들을 위해 만들어졌습니다.

토큰 몬스터가 계속 성장함에 따라 개인과 기업이 이 플랫폼을 채택하는 방식과 AI 기반 리더십에 대한 실험이 어떻게 전개될지 지켜보는 것은 흥미로울 것입니다. 현재로서는 빠르게 진화하는 AI 챗봇과 지능형 비서의 세계에서 매력적인 신규 진입자로 자리매김하고 있습니다.