Gemma 4 12B 소개: 통합형 인코더 없는 멀티모달 모델
Gemma 4 12B는 모바일 우선 효율성과 고급 추론을 결합해, 고성능 멀티모달 지능을 노트북에서 바로 사용할 수 있도록 설계됐습니다.
오늘 Google은 에이전트형 멀티모달 지능을 노트북으로 직접 가져오기 위해 설계한 최신 모델, Gemma 4 12B를 공개합니다. 이 모델은 엣지 친화적인 E4B와 더 고급인 26B Mixture of Experts(MoE) 사이의 간극을 메우며, 더 작은 메모리 사용량 안에 강력한 성능을 담았습니다. 또한 오디오 입력을 네이티브로 지원하는 첫 중간 규모 모델이기도 합니다.
개발자 커뮤니티 덕분에 Gemma 4 모델은 이제 다운로드 1억 5천만 회를 넘어섰습니다. 여러분은 신체 보조를 위한 웨어러블 로봇 팔부터 엔터프라이즈급 AI 보안까지 다양한 것을 만들어 왔습니다. 이번 최신 모델로 여러분이 무엇을 만들지 기대하고 있습니다.
다음은 Gemma 4 12B를 특별하게 만드는 핵심 요소입니다.
새로운 통합 아키텍처: 멀티모달 인코더가 없습니다. 비전과 오디오 입력이 직접 LLM 백본으로 들어갑니다.
고급 추론: 벤치마크 성능이 26B 모델에 가까워, 강력한 다단계 추론과 에이전트형 워크플로를 구현할 수 있습니다.
노트북 준비 완료: 16GB의 VRAM 또는 통합 메모리만으로 로컬 실행이 가능할 만큼 작습니다.
개방적이고 접근 가능함: Apache 2.0 라이선스로 공개되며, 개발자 생태계 전반에서 지원됩니다.
Drafter-ready: Gemma 4 12B에는 지연 시간을 줄이기 위한 Multi-Token Prediction(MTP) drafter가 탑재되어 있습니다.
이 기능들이 함께 작동해 속도나 추론 성능을 희생하지 않으면서도, 일상적인 하드웨어에서 고급 멀티모달 기능을 사용할 수 있게 합니다. 이제 Gemma 4 12B가 이를 어떻게 구현했는지 좀 더 자세히 살펴보겠습니다.
최첨단 에이전트를 로컬에서 실행
Gemma 4 12B는 표준 벤치마크에서 더 큰 26B MoE 모델에 가까운 성능을 내면서도, 전체 메모리 사용량은 절반 이하입니다. 16GB RAM을 갖춘 일반 소비자용 노트북에서도 로컬 실행이 가능할 만큼 작아서, 강력한 멀티모달 경험과 에이전트형 경험을 여러분의 기기에서 바로 구현할 수 있습니다.
독보적으로 효율적인 통합 아키텍처를 경험하세요
Gemma 4 12B를 돋보이게 하는 점은 시각 및 오디오 입력을 처리하는 간결한 접근 방식입니다. 기존 멀티모달 모델은 대개 이미지와 오디오를 먼저 별도의 인코더로 변환한 뒤, 그 표현을 언어 모델에 전달합니다. 이런 분리된 인코더는 지연 시간을 늘리고 메모리 사용량도 키우기 때문에, Google은 Gemma 4 12B를 인코더 없는 아키텍처로 학습시켜 오디오와 비전 입력을 직접 통합하도록 했습니다.
Gemma 4 12B가 멀티모달 입력을 네이티브로 처리하는 방식은 다음과 같습니다.
Vision: Gemma 4의 비전 인코더를, 단일 행렬 곱셈과 positional embedding, 정규화로 이루어진 경량 임베딩 모듈로 대체했습니다. 이렇게 하면 시각 처리의 주도권을 LLM 백본이 가져가게 됩니다.
Audio: 오디오 처리는 더 단순하게 만들었습니다. 오디오 인코더를 완전히 제거하고, 원시 오디오 신호를 텍스트 토큰과 같은 차원 공간으로 투영했습니다.
구현을 자세히 보고 싶은 개발자라면 Gemma 4 12B 개발자 가이드를 확인해 보세요.
지금 시작하세요
직접 사용해 보기: LM Studio, Ollama, Google AI Edge Gallery App, Google AI Edge Eloquent 앱, LiteRT-LM CLI에서 몇 번의 클릭만으로 실험해 볼 수 있습니다.
가중치 다운로드: 사전 학습 체크포인트와 instruction-tuned 체크포인트를 Hugging Face와 Kaggle에서 직접 내려받으세요.
선호하는 개발 도구 사용하기: Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM로 로컬 추론 파이프라인을 구현하거나, Unsloth로 효율적으로 파인튜닝할 수 있습니다.
Gemma Skills로 에이전트 개발 확장: 최신 Gemma 발전 사항을 활용해 에이전트가 개발할 수 있도록, 공식 Skills Repository를 함께 공개합니다. 이 저장소는 Gemma 모델을 활용해 에이전트를 개발할 수 있게 설계된 스킬 라이브러리입니다.
원하는 방식으로 배포: Google Cloud를 사용해 프로덕션 엔드포인트를 구축할 수 있습니다. Gemini Enterprise Agent Platform Model Garden, Cloud Run, GKE를 통해 원하는 방식으로 배포하세요.
source https://blog.google/innovation-and-ai/technology/developers-tools/introducing-gemma-4-12b/
HN 댓글에서는 12B급 로컬 멀티모달 모델이 실제 작업에서 어디까지 가능하냐였다. 코딩에서는 4비트 양자화만으로도 결과물 자체는 꽤 괜찮았지만, 괄호를 하나 더 닫거나 함수 정의 사이에 쉼표를 넣는 식의 사소한 문법 오류는 직접 손봐야 했고, 12GB VRAM에서 초당 5토큰 정도면 대화형 코딩에 쓰기에는 답답하다는 지적이 나왔다.
16GB 노트북에서 돌아간다는 문구는 양자화를 전제로 한다는 점을 교묘하게 가린 홍보처럼 느껴졌다. 공개된 가중치와 벤치마크는 더 높은 정밀도 기준에 가까운데, 실제 사용자는 Q4나 Q8부터 따져야 하니 성능과 메모리 이야기를 한 문장에 묶으면 오해를 부른다는 지적이다.
인코더 없는 구조도 흥미롭지만, 설명은 아직 충분하지 않다는 쪽에 무게가 실렸다. 비전 입력을 별도 인코더 없이 받는다고 해도 결국 3,500만 파라미터 규모의 얇은 임베딩 층이 들어가는데, 이 설계가 얼마나 견고한지와 사전학습 방식이 더 분명해야 납득할 수 있다는 의견이다.
시각 성능에는 특히 회의적인 평가가 많았다. 동전을 계속 잘못 식별하거나 단순한 이미지 속 텍스트조차 오래 붙잡고 틀렸다는 사례가 나왔고, 같은 입력에서 Gemma 26B A4B나 Qwen 계열, Gemini 3.1 Flash-Lite가 더 정확했다는 비교도 여러 번 이어졌다.
이 모델의 자리는 성능 최상위라기보다 메모리 제약이 있는 구간에 가깝다는 평가가 많았다. 26B A4B가 점수도 더 좋고 활성 파라미터가 적어 오히려 더 빠를 수 있다면, 12B dense 모델의 의미는 16GB 안팎 환경에서 겨우 올릴 수 있는 선택지라는 데 있고, 12GB 사용자에게는 이마저도 여전히 부담이라는 반응이 이어졌다.
작은 로컬 모델의 용도는 범용 대화보다 잘게 쪼갠 자동화 작업에서 더 분명하게 드러났다. 문서 전사, 이미지 설명과 분류, 태깅처럼 목표가 하나로 좁혀진 작업에서는 비용과 통제권, 서비스 종료 리스크를 피할 수 있다는 장점이 있지만, 코딩과 멀티모달 이해까지 한 번에 기대하면 곧바로 더 큰 Qwen이나 Gemma 상위 모델과 비교될 수밖에 없다는 쪽으로 의견이 모였다.
