GoogleがEmbeddingGemma 2を公開。コード・画像・音声を同じベクトル空間で扱う軽量モデル

GoogleがEmbeddingGemma 2を公開。コード・画像・音声を同じベクトル空間で扱う軽量モデル

Google DeepMindがマルチモーダル埋め込みモデル「EmbeddingGemma 2」を公開した。テキスト・コード・画像・動画・音声を同じベクトル空間で扱える軽量モデルだ。検索や分類をスマートフォン単体で完結させることを狙う。

前世代EmbeddingGemmaは2000万ダウンロードを超えた。今回はGemma 4アーキテクチャを基盤に、Apache 2.0ライセンスで提供される。パラメータ数は7億4000万。テキスト専用なら2億7000万で動作し、用途に応じて画像用に1億7000万、音声用に3億を追加できる。

埋め込みモデルとは、データを数値ベクトルに変換する仕組みだ。意味の近いものを近い位置に配置し、検索や分類に使う。この処理を端末内で行える点が、プライバシー保護と応答速度の両面で重要になる。

EmbeddingGemma 2の概要と設計思想

EmbeddingGemma 2は、Googleが2025年に公開した埋め込みモデルEmbeddingGemmaの後継版にあたる。前世代がテキスト専用だったのに対し、今回からマルチモーダルへと大きく舵を切った。モデルの設計思想を2つの観点から見ていく。

前世代からの進化点

前世代との最大の違いは、単一モデルで複数のデータ形式を処理できる点だ。テキストとコードに加え、画像・動画・音声をネイティブに扱う。モダリティごとに別々のモデルを組み合わせる方式ではなく、1つの埋め込み空間へ直接変換する設計である。

コンテキストウィンドウは8000トークンに拡張された。前世代の4倍にあたる。約5分半の音声、29枚の画像、58フレームの動画を端末上でそのまま処理できる。音声メモから特定の動画シーンを探すといった使い方が可能だ。

Gemma 4と同じテキストトークナイザーと音声エンコーダーを採用した点も見逃せない。生成モデルと組み合わせる際、メモリ消費量を抑えながら統合パイプラインを構築できる。オンデバイスRAGの基盤として実用性を高めた格好だ。

モジュール設計がもたらす柔軟性

EmbeddingGemma 2は用途に応じて規模を変えられるモジュール構成を取る。テキストのみなら2億7000万パラメータ。画像対応を加えると1億7000万パラメータを追加。音声にも対応するとさらに3億パラメータを追加する。フル構成では7億4000万になる。

この設計は実務面で重要だ。テキスト検索だけが必要なアプリは軽量構成を選び、マルチメディア検索が必要なアプリはフル構成を選べる。限られた端末リソースに合わせて機能を段階的に追加できるため、幅広いハードウェアへ展開しやすい。

4種類のデータが1つの共有ベクトル空間に変換される仕組みを示している。

マルチモーダル埋め込みの性能検証

公開されたベンチマーク結果からは、EmbeddingGemma 2が同規模モデルの中で突出した性能を持つことがわかる。コード・画像・音声の各分野で詳細を見ていく。

主要ベンチマークの結果

10億パラメータ未満のマルチモーダル埋め込みモデルとしては最高水準のスコアを記録した。コード性能を示すMTEB Codeでは68.76から78.68へ9.92ポイント向上している。ローカルコードベースのインデックス作成や意味検索、コーディングエージェント向けの検索に適するレベルだ。

画像・動画・文書・音声の各タスクでも、パラメータあたりの品質で新たな基準を打ち立てた。2倍以上の規模を持つ専門モデルを上回るケースもある。日本語を含む多言語テキスト性能は前世代同等を維持している点も確認された。

10億パラメータ未満でこの性能を実現できた背景には、Gemma 4アーキテクチャの成熟がある。埋め込みモデルと生成モデルの技術を共通化する戦略が、小型モデルにも高品質をもたらしたと言える。

MRLによる保存効率の改善

MRL（Matryoshka Representation Learning）という手法を採用した点が保存効率に大きく寄与する。マトリョーシカ人形のように、大きなベクトルの中に小さなベクトルを入れ子状に含める学習方式だ。出力ベクトルを768次元から512次元、256次元、128次元へと段階的に切り詰められる。

次元数を128に落とすと、ローカルベクトルデータベースの保存容量とメモリ使用量を最大6分の1に削減できる。検索精度の低下は限定的で、上位次元ほど重要な情報が集まるよう設計されている。この仕組みの価値は実務でこそ大きい。端末の保存領域には限りがあるため、容量と精度のバランスを取れる点が重要だ。

次元数を減らすほど保存容量が削減される仕組みを示している。

オンデバイス検索とRAGの実用シナリオ

EmbeddingGemma 2の真価は、クラウドに依存しないオンデバイス動作にある。データを外部へ送らず、端末内で埋め込み生成から検索まで完結できる。プライバシーと応答速度の両面で利点がある。

端末内で完結するセマンティック検索

Google Pixel 11 Proでは量子化により、テキスト専用で約191MB、フルマルチモーダルで約567MBのアクティブRAMで動作する。ハイエンド以外のスマートフォンでも現実的なリソースだ。完全オフラインで動作するため、機内モードや圏外でも検索機能を利用できる。

具体的な利用例として、音声メモから特定の動画クリップを探したり、テキストクエリで数時間分の録音を横断検索したりできる。従来は複数のモデルやクラウドAPIが必要だった作業が、単一のオンデバイスモデルで完結する。この変化は、オンデバイスAIが実用段階に入ったことを示している。

Gemma 4と組み合わせたオンデバイスRAG

生成モデル「Gemma 4」と組み合わせると、複雑なマルチモーダルデータを理解するオンデバイスRAG（検索拡張生成）パイプラインを構築できる。EmbeddingGemma 2がローカルファイルを検索し、Gemma 4が文脈を踏まえた推論を行う。2つのモデルが同じトークナイザーを共有するため、統合時のメモリ消費量も抑えられる。

Google AI Edge Galleryでは「Instant Media Search」と「Video Moments Finder」の2つのデモが公開された。テキストや画像でメディアライブラリを検索したり、テキストや音声クエリで動画内の特定シーンを特定したりできる。さらにMediaPipe Decision Task APIを使えば、分類・ルーティング・予測機能を持つリアルタイム意思決定エンジンも構築可能だ。

端末内で完結する検索フローと従来方式の違いを示している。

開発者向けの導入方法

EmbeddingGemma 2は公開直後から主要な開発ツールに対応している。Google DeepMindはパートナーと協力し、既存のワークフローにすぐ組み込める環境を整えた。導入フローを2つの観点で整理する。

モデルの入手と実行環境

モデルウェイトはHugging FaceとKaggleで公開されている。オンデバイス最適化版はHugging Face上のLiteRT Communityで入手できる。Gemini Enterprise Agent PlatformのModel Gardenでも近日提供予定だ。

クロスプラットフォームアプリの開発にはGoogle AI EdgeのMediaPipeが使える。埋め込み・検索・意思決定タスクをすぐに利用できるのが利点だ。カスタム統合にはLiteRTを選ぶ。ブラウザ向けにはtransformers.jsまたはWebGPUが対応する。WebGPU経由ならブラウザ上でもGPUを活用した高速推論が可能だ。

対応ツールとファインチューニング

transformers、sentence-transformers、MLX、vLLM、llama.cpp、SGLang、Ollama、LMStudioなど主要な推論・実行ツールで動く。埋め込みベクトルの保存にはQdrantが公式に対応する。ローカルでベクトルデータベースを構築する際の選択肢として有力だ。

ファインチューニングの手順はUnslothがガイドを公開した。特定のドメイン用語や業界固有のデータに合わせてモデルを調整できる。Google AI Edgeのブログ記事では、LiteRTを使ったオンデバイス検索とRAGシステムの構築方法が解説されている。開発者ガイドとドキュメントも合わせて公開済みだ。

この記事のポイント

• EmbeddingGemma 2は7億4000万パラメータのマルチモーダル埋め込みモデル
• テキスト・コード・画像・動画・音声を1つのベクトル空間で処理する
• MRLにより保存容量を最大6分の1に削減できる
• スマートフォンで完全オフラインの検索とRAGが動作する
• Hugging FaceとKaggleでモデルが公開されている

海田 洋祐

・ 複数業界における17年間のデジタルビジネス開発経験
・ ウェブサイト開発のためのHTML、PHP、CSS、JavaScript等の実用的知識
・ 15ヶ国語対応の多言語SaaSの開発経験
・ 17年間にも及ぶ、Eコマース長期運営経験
・ 幅広い業界でのSEO最適化の豊富な経験