구글, 기기에서 돌아가는 멀티모달 임베딩 모델 공개

임베딩 모델은 콘텐츠를 수치 벡터로 바꿔 단어 일치가 아니라 의미를 기준으로 찾고 비교할 수 있게 한다. EmbeddingGemma 2는 형식이 다른 콘텐츠를 같은 임베딩 공간에 함께 올린다.

필요한 만큼만 불러오는 파라미터 구성

파라미터는 작업에 따라 나뉘어 쓰인다. 텍스트 전용 작업에는 2억7천만 개가 필요하고, 시각 인코더 1억7천만 개와 음성 인코더 3억 개는 필요할 때 추가된다.

모델은 젬마 4 아키텍처를 기반으로 한다. 젬마 4의 텍스트 토크나이저와 음성 인코더를 공유해 두 모델을 함께 구동할 때 전체 메모리 사용량이 줄어든다.

기기 안에서의 실행 조건

구글 픽셀 11 프로에서 텍스트 전용 가중치는 약 191MB, 전체 멀티모달 모델은 약 567MB의 활성 램을 쓴다. 브라우저에서 웹GPU로 돌릴 때 질의 한 건 처리에는 약 20~70밀리초가 걸리며, API 키 없이 로컬에서 구동된다.

구글은 기기에서 임베딩을 만들면 데이터 보호에 도움이 되고 처리 지연이 줄며 완전한 오프라인 작동이 가능하다고 설명했다. 젬마 4 같은 생성 모델과 묶어 쓰면 외부 서버로 데이터를 넘기지 않는 기기 안의 처리 구성을 짤 수 있다.

한 번에 다룰 수 있는 분량

출력 벡터는 768차원이다. 이를 512·256·128차원으로 줄일 수 있으며, 구글은 이 방식으로 로컬 벡터 데이터베이스 저장 용량을 최대 6분의 1까지 줄일 수 있다고 밝혔다.

한 번에 다룰 수 있는 분량은 8천192토큰으로 1세대의 4배다. 이미지 29장이나 영상 프레임 58개, 또는 5분30초 분량의 음성을 처리할 수 있다.

배포 경로와 남은 한계

모델 가중치는 허깅페이스와 캐글에서 받을 수 있다. 기업용 모델 가든인 Gemini Enterprise Agent Platform Model Garden에서의 제공은 뒤이어 이뤄진다는 것이 구글의 설명이다.

구글은 이 모델이 로컬 코드베이스 색인과 의미 기반 코드 검색, 코딩 에이전트 검색에 적합하다고 설명했다. 구글 자체 평가에서 MTEB 코드 점수는 68.76에서 78.68로 9.92점 올랐다. 구글은 파라미터 10억 개 미만 멀티모달 임베딩 모델 가운데 선도적인 점수를 냈고 크기가 두 배를 넘는 일부 모델보다도 성능이 앞선다고 주장했다.

The Next Web은 이 모델에 안전성 미세조정과 출력 조정 장치가 적용되지 않았고 완화 조치는 학습 데이터 단계에서 이뤄졌다고 전했다. 또 모델이 100개가 넘는 언어를 지원하지만 언어별 성능은 동일하지 않을 수 있다고 전했다. The Next Web은 1세대 EmbeddingGemma 내려받기가 2천만 건을, 젬마 계열 전체는 10억 건을 넘었다는 구글 설명도 전했다.