개발자 jola는 24GB M4 MacBook Pro에서 로컬 AI 워크플로우를 구동하는 모습을 시연했습니다. 최적화된 Qwen 3.5-9B 모델은 초당 40 토큰의 처리 속도를 기록하며, 오프라인 사용에 적합한 성능과 효율성의 균형을 이루었습니다. 파라미터 미세 조정과 "사고" 모드 활성화로 코딩 작업에 대한 추론 능력이 향상되었습니다. 최상위 클라우드 모델과는 여전히 격차가 있지만, 이 구성은 프라이버시를 중시하는 비용 효율적인 대안을 제공하며, AI의 역할을 외부 위탁 보조 도구에서 상호작용하는 "연구 파트너"로 전환합니다.





집
