Google Джемма
Gemma — это семейство легких моделей искусственного интеллекта с открытым весом Google, созданных на основе тех же исследований и технологий, что и Gemini.
Обзор
It lets developers download, fine-tune, and run capable models on their own hardware, even a single laptop or GPU.
Глубокое погружение
Объявленный в феврале 2024 года, Джемма дает Google участие в гонке моделей в открытом весе вместе с Llama и Mistral Meta. Модели поставляются в небольших размерах, первая версия вышла с версиями параметров 2B и 7B, с весами, которые можно загрузить и запускать локально, в отличие от закрытого Gemini, предназначенного только для API. Google распространяет как базовые (предварительно обученные), так и варианты с настроенными инструкциями по разрешительной лицензии, позволяющей коммерческое использование. Семейство быстро расширилось: CodeGemma для программирования, PaliGemma для задач визуального языка, RecurrentGemma для эффективных длинных последовательностей и Gemma 2 (и более поздние версии) с более высокой производительностью при таких размерах, как 9B и 27B. Gemma спроектирована так, чтобы хорошо сочетаться с популярными инструментами Hugging Face, Keras, PyTorch, JAX и Ollama, что делает ее практичным выбором для локальных, чувствительных к конфиденциальности или экономичных развертываний.
Техническая информация
Gemma использует архитектуру Transformer, предназначенную только для декодера, и повторно использует методы из исследования Gemini, включая токенизатор большого словарного запаса (около 256 тысяч токенов) и обучение, основанное на более крупных моделях учителей в поколении Gemma 2. Фильтрация знаний позволяет маленькой студенческой модели имитировать гораздо большую модель, достигая высокого качества при скромных размерах. «Открытый вес» означает, что обученные параметры можно загрузить, чтобы вы могли их точно настроить и разместить самостоятельно, хотя данные обучения и полный конвейер не являются полностью открытыми.
Стратегическое воздействие
Стратегия поставщика
Дорожные карты поставщиков влияют на то, какие функции ваша команда может создать дальше.
Стоимость и бюджет
Коммерческие условия и варианты развертывания влияют на долгосрочные затраты и риски.
Риски и безопасность
Стимулы компании влияют на невыполнение обязательств по продукту, безопасность и открытость.
Будущее Google Джеммы
Ожидайте, что Google продолжит выпускать варианты Gemma, настроенные для конкретных модальностей и задач, видения, кода, математики и использования на устройстве, одновременно сокращая занимаемую площадь, необходимую для их запуска. По мере того, как модели с открытым весом сокращают разрыв с передовыми системами, Gemma позиционирует Google, чтобы завоевать внимание разработчиков и обеспечить преимущества передовых и частных развертываний, где данные не могут покинуть здание. Более тесная интеграция с Android, Chrome и такими инструментами, как Ollama и Vertex AI, сделает тонкую настройку и локальный вывод все более «под ключ».
Реальная реализация
Запуск чат-бота полностью в автономном режиме на ноутбуке или одном графическом процессоре для получения конфиденциальных данных.
Доработка небольшой модели Gemma по внутренним документам компании для индивидуального помощника поддержки.
Использование CodeGemma в качестве локального помощника по дополнению и генерации кода внутри IDE.
Создание подписей к изображениям или визуальных приложений для вопросов и ответов с помощью варианта PaliGemma на языке видения
Риски и ограничения
Объявления о запуске могут опережать стабильность реальных производственных процессов.
Цены на API или изменения в политике могут в одночасье разрушить предположения.
Зависимость от одного поставщика увеличивает затраты на привязку и миграцию.
Дорожная карта реализации
Оценивайте поставщиков, используя собственные задачи и наборы данных.
Перед интеграцией ознакомьтесь с условиями конфиденциальности, безопасности и юридическими условиями.
Поддерживайте резервный план для разных моделей или поставщиков.
Отслеживайте примечания к выпуску, чтобы изменения в дорожной карте не удивили команды.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Google Gemma quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
Google DeepMind
Часто задаваемые вопросы
What is Google Gemma?
Gemma — это семейство легких моделей искусственного интеллекта с открытым весом Google, созданных на основе тех же исследований и технологий, что и Gemini. Он позволяет разработчикам загружать, настраивать и запускать соответствующие модели на собственном оборудовании, даже на одном ноутбуке или графическом процессоре.
В чем ключевое различие между Джеммой и Gemini?
Обученные веса Джеммы можно загрузить и запускать локально, а Gemini предлагается в виде закрытой модели через приложения и API Google.
Какие размеры были у первой версии Gemma в 2024 году?
Первоначальный запуск Gemma включал модели с 2 и 7 миллиардами параметров, которые были намеренно достаточно малы, чтобы работать на скромном оборудовании.
Какой вариант Gemma специализируется на задачах программирования?
CodeGemma — это вариант, настроенный на генерацию и завершение кода, тогда как PaliGemma обрабатывает язык видения, а RecurrentGemma нацелена на эффективные длинные последовательности.
Что означает «открытый вес» для такой модели, как Джемма?
Открытый вес означает, что вы можете загружать и запускать обученные параметры, но полные данные обучения и конвейер не обязательно находятся в открытом доступе.
Какая технология помогает поколению Gemma 2 добиться высокого качества при небольших размерах?
Фильтрация знаний позволяет меньшей модели «ученика» научиться имитировать более крупную модель «учителя», обеспечивая высокую производительность в компактном размере.