Компания Google представила EmbeddingGemma 2 — открытую и быструю мультимодальную модель для локального поиска по текстам, коду, изображениям и аудио прямо на пользовательских устройствах. Она способна сопоставлять файлы не по ключевым словам или названиям, а по смыслу контента. Все данные обрабатываются без отправки в облако, что гарантирует полную конфиденциальность.
Модель нового поколения построена на базе архитектуры Gemma 4 и распространяется по коммерческой лицензии Apache 2.0. Ее главная фишка — модульная структура и высокая энергоэффективность при максимальном размере в 740 млн. параметров. Разработчики могут подключать только нужные блоки: текстовый модуль требует всего 270 млн. параметров, кодировщик картинок — еще 170 млн., а аудио — еще 300 млн. Технология Matryoshka Representation Learning позволяет динамически сжимать числовые векторы, сокращая занимаемый базами данных объем памяти до 6 раз.
В профильных тестах MTEB и MAEB EmbeddingGemma 2 показала лучшие результаты среди моделей размером до 1 млрд. параметров, успешно конкурируя с гораздо более тяжелыми системами. В тесте на поиск по коду MTEB Code новинка подняла планку с 68,76 до 78,68 балла, став отличным решением для ИИ-ассистентов разработчиков. При этом модель легко запускается на смартфонах. Например, в тестах на Pixel 11 Pro с применением квантования текстовый режим требовал всего 191 Mb оперативной памяти, а мультимодальный — около 567 Mb.
Благодаря общему токенизатору и аудиокодировщику со «старшей» Gemma 4, EmbeddingGemma 2 позволяет разворачивать на устройствах быстрые и экономичные RAG-системы. Модель легко встраивается через стандартные инструменты вроде transformers, llama.cpp, Ollama и LM Studio.
Скачать веса можно на Hugging Face и Kaggle, а в ближайшее время они станут доступны на Gemini Enterprise Agent Platform.
