Google, Gemini 2.5 플래시에서 AI 추론의 사용자 제어 지원

Google은 Gemini 2.5 플래시 모델에 AI 추론 제어 기능을 구현하여 개발자가 시스템에서 문제 해결에 사용하는 처리 능력을 제한할 수 있는 기능을 제공합니다.

4월 17일에 도입된 이 '사고 예산'은 정교한 AI 모델이 단순한 질문에 대해 과도하게 생각하여 컴퓨팅 리소스를 낭비하고 운영 및 환경 비용을 증가시키는 업계 문제를 해결합니다.

이 개발은 획기적인 것은 아니지만, 추론 기능이 상용 AI 시스템의 표준으로 자리 잡으면서 나타난 효율성 문제를 해결하기 위한 실질적인 움직임입니다.

새로운 제어 기능을 통해 개발자는 모델이 응답하기 전에 처리 리소스를 정밀하게 조정할 수 있어 조직이 AI 사용으로 인한 재정적, 환경적 영향을 처리하는 방식을 혁신할 수 있습니다.

Gemini의 제품 관리 디렉터인 툴시 도시는 "모델이 지나치게 많은 생각을 합니다."라고 인정합니다. "기본적인 프롬프트의 경우, 모델은 필요 이상으로 많이 생각합니다."

이러한 인정은 고급 추론 모델이 직면한 딜레마, 즉 호두를 깨기 위해 쇠망치를 사용하는 것과 같은 딜레마를 강조합니다.

추론 기능을 향한 움직임은 예상치 못한 단점을 가져왔습니다. 기존의 대규모 언어 모델은 대부분 학습 데이터의 패턴 매칭에 의존했지만, 최신 버전은 문제를 체계적으로 해결하려고 합니다. 이러한 논리적 단계별 접근 방식은 복잡한 작업에서는 더 나은 결과를 제공하지만 단순한 요청에서는 큰 비효율을 초래합니다.

비용과 성능의 균형 맞추기

통제되지 않은 AI 추론의 재정적 영향은 상당합니다. Google의 기술 노트에 따르면 전체 추론이 활성화되면 표준 처리보다 결과물 생성 비용이 약 6배 더 많이 든다고 합니다. 이러한 비용 증가는 정밀한 제어에 대한 강력한 동기를 부여합니다.

허깅 페이스에서 추론 모델을 연구하는 엔지니어인 네이선 하비브는 이 문제를 업계 전반에 걸친 문제라고 말합니다. "더 똑똑한 AI를 입증하기 위한 경쟁에서 기업들은 추론 모델을 불필요한 경우에도 보편적인 도구처럼 사용하고 있습니다."라고 그는 MIT 테크놀로지 리뷰에 말했습니다.

이러한 낭비는 단순한 가상의 문제가 아닙니다. 하비브는 최고의 추론 모델이 유기 화학 문제를 풀려고 할 때 "잠깐만요, 하지만..."이라는 말을 수백 번 반복하며 반복적인 루프에 갇혀 처리 능력을 소모하면서 계산 장애를 겪는 과정을 보여주었습니다.

딥마인드에서 Gemini 모델을 평가하는 케이트 올제브스카는 구글의 시스템도 비슷한 문제에 직면하여 답변 품질을 개선하지 않고 컴퓨팅 리소스를 사용하는 루프에 갇히는 경우가 있다고 확인했습니다.

세분화된 제어 메커니즘

Google의 AI 추론 제어 기능은 개발자에게 정밀한 조정 기능을 제공합니다. 이 시스템은 0(최소한의 추론)부터 24,576 토큰의 '사고 예산'(모델의 내부 처리를 나타내는 연산 단위)까지 유연한 규모를 제공합니다. 이러한 세부적인 접근 방식을 통해 특정 요구사항에 따라 맞춤형 구현이 가능합니다.

딥마인드의 수석 연구 과학자인 잭 레이는 이상적인 추론 수준을 결정하는 것은 여전히 어렵다고 말합니다. "주어진 작업에 대해 완벽한 사고의 양을 정의하는 것은 정말 어려운 일입니다."라고 말입니다.

변화하는 개발 철학

AI 추론 제어의 도입은 인공지능의 발전 방식에 변화를 가져올 수 있습니다. 2019년부터 기업들은 더 많은 매개변수와 학습 데이터로 더 큰 모델을 만들어 개선을 추구해 왔습니다. Google의 전략은 규모보다 효율성을 우선시하는 다른 방향을 제시합니다.

하비브는 "확장 법칙이 대체되고 있다"고 말하며, 앞으로는 모델 크기를 끝없이 확장하기보다는 추론 프로세스를 개선하는 데서 발전할 수 있음을 시사합니다.

환경적 결과도 마찬가지로 중요합니다. 추론 모델이 보편화되면 그에 따라 에너지 사용량도 증가합니다. 연구에 따르면 추론(AI 응답을 생성하는 과정)은 이제 초기 학습 단계보다 기술의 탄소 발자국에 더 많은 기여를 하는 것으로 나타났습니다. Google의 추론 제어는 이러한 우려스러운 추세에 대한 가능한 해결책을 제시합니다.

경쟁 역학

Google은 진공 상태에서 일하지 않습니다. 올해 초에 등장한 '오픈 웨이트' 딥서치 R1 모델은 잠재적으로 저렴한 비용으로 강력한 추론 능력을 보여주면서 시장 불안정을 야기해 1조 달러에 가까운 주식 시장 변동으로 이어진 것으로 알려졌습니다.

구글의 독점적인 방식과 달리 딥시크는 개발자가 로컬에서 실행할 수 있도록 내부 구성을 공개적으로 제공합니다.

구글 딥마인드의 최고 기술 책임자 코레이 카부쿠오글루는 경쟁에도 불구하고 "코딩, 수학, 금융은 매우 정확하고 정밀하며 매우 복잡한 시나리오를 이해할 수 있는 모델이 요구되는 분야"라며 독점 모델이 극도의 정확성을 필요로 하는 전문 분야에서 우위를 유지할 수 있을 것이라고 믿습니다.

산업 성숙 징후

AI 추론 제어의 탄생은 이제 기술적 측정을 넘어 실질적인 한계에 직면한 산업을 반영합니다. 기업들이 추론 기능을 계속 발전시키고 있는 가운데, Google의 접근 방식은 상업용 애플리케이션에서 효율성이 원시 성능만큼이나 중요하다는 중요한 현실을 인식하고 있습니다.

이 기능은 또한 기술 발전과 지속 가능성 고려 사항 사이의 긴장을 강조합니다. 추론 모델의 성능 추적기에 따르면 개별 작업을 완료하는 데 200달러 이상의 비용이 들 수 있으며, 실제 환경에서 이러한 기능을 대규모로 구현하는 데 대한 우려가 제기되고 있습니다.

Google은 개발자가 실제 요구 사항에 따라 추론 수준을 조정할 수 있도록 함으로써 AI 배포의 경제적 측면과 환경적 측면을 모두 해결합니다.

"추론은 지능을 구축하는 기본 기능입니다."라고 카부쿠오글루는 말합니다. "모델이 사고를 시작하는 순간, 그 모델이 가진 에이전시가 등장합니다." 이 말은 추론 모델의 잠재력과 어려움, 즉 추론 모델의 독립성으로 인해 가능성과 리소스 관리 문제가 모두 발생한다는 점을 모두 담고 있습니다.

AI 솔루션을 구현하는 조직의 경우 추론 예산을 미세 조정할 수 있는 기능을 통해 운영 효율성을 유지하면서 고급 기능에 더 쉽게 접근할 수 있습니다.

Google은 Gemini 2.5 Flash가 "훨씬 적은 비용과 크기로 다른 주요 모델과 비슷한 성능을 구현"하며, 특정 용도에 맞게 추론 리소스를 최적화하는 기능으로 가치 제안을 강화한다고 말합니다.

실질적인 의미

AI 추론 제어 기능은 실생활에서 즉각적으로 사용할 수 있습니다. 이제 상용 애플리케이션을 개발하는 개발자는 처리 깊이와 운영 비용 사이에서 신중한 선택을 할 수 있습니다.

기본적인 고객 문의와 같은 간단한 애플리케이션의 경우, 최소한의 추론 설정으로 리소스를 절약하면서 모델의 기능을 활용할 수 있습니다. 심층적인 이해가 필요한 복잡한 분석의 경우, 전체 추론 기능을 계속 이용할 수 있습니다.

Google의 추론 '다이얼'은 성능 표준을 유지하면서 비용 예측 가능성을 달성할 수 있는 방법을 제공합니다.

참조하세요: Gemini 2.5: 지금까지 '가장 지능적인' AI 모델을 개발하는 Google

업계 리더의 AI와 빅데이터에 대해 더 자세히 알고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 열리는 AI & 빅 데이터 엑스포를 확인해 보세요. 이 종합적인 행사는 지능형 자동화 컨퍼런스, 블록엑스, 디지털 트랜스포메이션 위크, 사이버 보안 및 클라우드 엑스포 등 다른 주요 이벤트와 함께 개최됩니다.

예정된 다른 엔터프라이즈 기술 이벤트와 TechForge에서 제공하는 웨비나는 여기에서 살펴보세요.