구글, 기기 내 AI 분야의 획기적인 발전을 위한 ‘Gemma 4 E2B’ 아키텍처 공개

오픈소스 대규모 모델 생태계가 기반 아키텍처 측면에서 중대한 돌파구를 마련했다. 구글 딥마인드는 최근 자사 역사상 가장 강력한 오픈소스 모델인 ‘Gemma4’를 출시했다. 이 모델의 파라미터 수는 약 300억 개로 이전 모델과 비슷한 수준이지만, ‘파라미터당 지능’은 비약적으로 향상되었다. 여러 핵심 과제에서 Gemma4의 성능은 이제 1년 반 전의 최고 수준의 비공개 대형 모델들과 어깨를 나란히 할 정도다.
Gemma4의 가장 주목할 만한 기술적 혁신은 새로운 ‘E2B’(파라미터 오프로딩) 아키텍처의 도입입니다. 기존의 트랜스포머 설계에서는 대규모 임베딩 레이어가 대개 상당한 양의 GPU 메모리를 소모합니다. 새로운 아키텍처는 각 레이어에 임베딩 테이블을 지능적으로 추가하여, 부하가 큰 전체 행렬 곱셈을 조회 테이블 메커니즘으로 대체합니다. 예를 들어, E2B 아키텍처를 적용한 500억 매개변수 모델의 경우, GPU 메모리에 200억 매개변수만 로드하면 되며, 나머지 300억 매개변수는 CPU나 심지어 디스크로 안전하게 오프로딩할 수 있습니다. 이를 통해 모델은 단 2GB의 GPU 메모리만으로도 빠른 추론을 수행할 수 있어, 휴대폰이나 라즈베리 파이(Raspberry Pi)와 같은 엣지 기기에서 발생하는 배포 병목 현상을 해소합니다.
매우 야심차고 복잡한 이번 출시를 위해 Google DeepMind 팀은 Hugging Face, llama.cpp, Ollama, NVIDIA, AMD를 포함한 약 50개의 외부 파트너와 협력했습니다. 현재 Gemma4는 Android Studio와 깊이 통합되어 있습니다. 개발자는 에이전트(Agent) 모드에서 클라우드 API에 코드를 업로드하지 않고도 오프라인 환경에서 로컬로 AI를 호출하여 안드로이드 코드를 작성할 수 있습니다. 이는 업무 현장에서 데이터 개인정보 보호 및 오프라인 작업에 대한 강력한 수요를 크게 충족시킵니다.
다중 모달 기능 및 핵심 경험 측면에서 Gemma4는 Gemini3의 연구 성과를 계승했습니다. 매개변수가 2B 또는 4B에 불과한 소형 엣지 모델조차도 뛰어난 다국어 지원(140개 언어)과 다중 모달 이해 능력을 제공하며, 음성 인식, 음성 질의, 30~60초 분량의 동영상 분석을 손쉽게 처리합니다. 이 모델은 절대적인 지식 용량 면에서 여전히 더 큰 모델들에 뒤처져 있으며, 텍스트 확산(Diffusion Transformer)이나 전문가 혼합(MoE) 미세 조정과 같은 최첨단 실험 분야에서 업계가 인정하는 과제에 직면해 있지만, 그 고밀도 지능은 더 이상 무시할 수 없는 수준에 이르렀습니다.
대형 모델의 기본 기능이 지속적으로 개선됨에 따라, 수직 분야 개발 생태계는 심도 있는 재편을 겪고 있으며, 순수한 전통적인 미세 조정 방식의 인기는 점차 사그라들고 있습니다. 앞으로 Google DeepMind는 향후 1~2년 이내에 사용자의 스마트폰이 기기에서 직접 Gemini3Pro의 성능에 필적하는 강력한 모델을 실행할 수 있게 될 것이라는 획기적인 예측을 내놓았습니다. 그 시점이 되면, 대부분의 복잡한 지능형 에이전트 작업이 클라우드 컴퓨팅 성능에 의존하지 않고 로컬에서 완료될 것이며, 이는 의심할 여지 없이 차세대 소비자 애플리케이션 통합과 사용자 경험에 파격적인 변화를 가져올 것입니다.
관련 기사
우버 인사팀, 연간 예산을 4개월 만에 소진…인력 감축 단행; 관계자 “AI와의 연관성 없다”고 부인
우버는 신임 사장 질 헤이즐베이커의 주도 하에 인사 부문의 대대적인 개편에 착수했다. 이번 구조조정은 운영 효율성을 극대화하기 위해 해당 부서 인력을 23% 감축하는 내용을 포함한다.다라 코스로샤히 CEO는 내부 메모를 통해 이번 조치의 목표가 팀의 효율성을 높이는 데 있다고 밝혔습니다. 회사 대변인은 이번 감원이 우버의 전체 직원 3만 4,000명 중 1
전 틱톡 임원들, 사진 포즈를 완벽하게 익힐 수 있는 AI 기반 앱 출시
기업들은 사용자에게 사진 촬영 기법을 가르치기 위해 AI 이미지 생성 기술을 점점 더 많이 활용하고 있다. 지난해 구글은 픽셀 기기에 ‘카메라 코치(Camera Coach)’ 기능을 도입해 구도와 구성에 도움을 주었으며, 지난 7월에는 어도비가 실험용 카메라 앱에 AI를 활용해 사진을 평가하고 수정 사항을 추천해 주는 새로운 기능을 출시했다.이러한 추세에
홍콩 주식시장 AI 모델 섹터 급등, 미니맥스와 지푸 강한 상승세
5월 27일, 홍콩 증시에서 대형 언어 모델 관련 섹터는 강력한 상승세를 보였습니다. 장중 기준, MINIMAX-W (00100.HK)은 8% 이상 급등했으며, 지푸(Zhipu, 02513.HK)도 5%에 가까운 강한 상승률을 기록했습니다.1. 시장 배경: AI 선도기업들의 지속된 모멘텀최근 홍콩 대형 언어 모델 섹터는 꾸준한 성장세를 보여주고 있습니다. 시장 데이터에 따르면, 이 섹터는 여러 거래 세션에 걸쳐 탄력성을 유지해 왔습니다:M
관련 특별 주제 추천
의견 (0)
0/500

오픈소스 대규모 모델 생태계가 기반 아키텍처 측면에서 중대한 돌파구를 마련했다. 구글 딥마인드는 최근 자사 역사상 가장 강력한 오픈소스 모델인 ‘Gemma4’를 출시했다. 이 모델의 파라미터 수는 약 300억 개로 이전 모델과 비슷한 수준이지만, ‘파라미터당 지능’은 비약적으로 향상되었다. 여러 핵심 과제에서 Gemma4의 성능은 이제 1년 반 전의 최고 수준의 비공개 대형 모델들과 어깨를 나란히 할 정도다.
Gemma4의 가장 주목할 만한 기술적 혁신은 새로운 ‘E2B’(파라미터 오프로딩) 아키텍처의 도입입니다. 기존의 트랜스포머 설계에서는 대규모 임베딩 레이어가 대개 상당한 양의 GPU 메모리를 소모합니다. 새로운 아키텍처는 각 레이어에 임베딩 테이블을 지능적으로 추가하여, 부하가 큰 전체 행렬 곱셈을 조회 테이블 메커니즘으로 대체합니다. 예를 들어, E2B 아키텍처를 적용한 500억 매개변수 모델의 경우, GPU 메모리에 200억 매개변수만 로드하면 되며, 나머지 300억 매개변수는 CPU나 심지어 디스크로 안전하게 오프로딩할 수 있습니다. 이를 통해 모델은 단 2GB의 GPU 메모리만으로도 빠른 추론을 수행할 수 있어, 휴대폰이나 라즈베리 파이(Raspberry Pi)와 같은 엣지 기기에서 발생하는 배포 병목 현상을 해소합니다.
매우 야심차고 복잡한 이번 출시를 위해 Google DeepMind 팀은 Hugging Face, llama.cpp, Ollama, NVIDIA, AMD를 포함한 약 50개의 외부 파트너와 협력했습니다. 현재 Gemma4는 Android Studio와 깊이 통합되어 있습니다. 개발자는 에이전트(Agent) 모드에서 클라우드 API에 코드를 업로드하지 않고도 오프라인 환경에서 로컬로 AI를 호출하여 안드로이드 코드를 작성할 수 있습니다. 이는 업무 현장에서 데이터 개인정보 보호 및 오프라인 작업에 대한 강력한 수요를 크게 충족시킵니다.
다중 모달 기능 및 핵심 경험 측면에서 Gemma4는 Gemini3의 연구 성과를 계승했습니다. 매개변수가 2B 또는 4B에 불과한 소형 엣지 모델조차도 뛰어난 다국어 지원(140개 언어)과 다중 모달 이해 능력을 제공하며, 음성 인식, 음성 질의, 30~60초 분량의 동영상 분석을 손쉽게 처리합니다. 이 모델은 절대적인 지식 용량 면에서 여전히 더 큰 모델들에 뒤처져 있으며, 텍스트 확산(Diffusion Transformer)이나 전문가 혼합(MoE) 미세 조정과 같은 최첨단 실험 분야에서 업계가 인정하는 과제에 직면해 있지만, 그 고밀도 지능은 더 이상 무시할 수 없는 수준에 이르렀습니다.
대형 모델의 기본 기능이 지속적으로 개선됨에 따라, 수직 분야 개발 생태계는 심도 있는 재편을 겪고 있으며, 순수한 전통적인 미세 조정 방식의 인기는 점차 사그라들고 있습니다. 앞으로 Google DeepMind는 향후 1~2년 이내에 사용자의 스마트폰이 기기에서 직접 Gemini3Pro의 성능에 필적하는 강력한 모델을 실행할 수 있게 될 것이라는 획기적인 예측을 내놓았습니다. 그 시점이 되면, 대부분의 복잡한 지능형 에이전트 작업이 클라우드 컴퓨팅 성능에 의존하지 않고 로컬에서 완료될 것이며, 이는 의심할 여지 없이 차세대 소비자 애플리케이션 통합과 사용자 경험에 파격적인 변화를 가져올 것입니다.
우버 인사팀, 연간 예산을 4개월 만에 소진…인력 감축 단행; 관계자 “AI와의 연관성 없다”고 부인
우버는 신임 사장 질 헤이즐베이커의 주도 하에 인사 부문의 대대적인 개편에 착수했다. 이번 구조조정은 운영 효율성을 극대화하기 위해 해당 부서 인력을 23% 감축하는 내용을 포함한다.다라 코스로샤히 CEO는 내부 메모를 통해 이번 조치의 목표가 팀의 효율성을 높이는 데 있다고 밝혔습니다. 회사 대변인은 이번 감원이 우버의 전체 직원 3만 4,000명 중 1
전 틱톡 임원들, 사진 포즈를 완벽하게 익힐 수 있는 AI 기반 앱 출시
기업들은 사용자에게 사진 촬영 기법을 가르치기 위해 AI 이미지 생성 기술을 점점 더 많이 활용하고 있다. 지난해 구글은 픽셀 기기에 ‘카메라 코치(Camera Coach)’ 기능을 도입해 구도와 구성에 도움을 주었으며, 지난 7월에는 어도비가 실험용 카메라 앱에 AI를 활용해 사진을 평가하고 수정 사항을 추천해 주는 새로운 기능을 출시했다.이러한 추세에
홍콩 주식시장 AI 모델 섹터 급등, 미니맥스와 지푸 강한 상승세
5월 27일, 홍콩 증시에서 대형 언어 모델 관련 섹터는 강력한 상승세를 보였습니다. 장중 기준, MINIMAX-W (00100.HK)은 8% 이상 급등했으며, 지푸(Zhipu, 02513.HK)도 5%에 가까운 강한 상승률을 기록했습니다.1. 시장 배경: AI 선도기업들의 지속된 모멘텀최근 홍콩 대형 언어 모델 섹터는 꾸준한 성장세를 보여주고 있습니다. 시장 데이터에 따르면, 이 섹터는 여러 거래 세션에 걸쳐 탄력성을 유지해 왔습니다:M





집






