Google Джема
Gemma е семейството на Google от леки, отворени AI модели, изградени от същите изследвания и технологии като Gemini.
Преглед
It lets developers download, fine-tune, and run capable models on their own hardware, even a single laptop or GPU.
Дълбоко гмуркане
Обявена през февруари 2024 г., Gemma дава на Google участие в надпреварата за модели с отворена тежест заедно с Llama и Mistral на Meta. Моделите се доставят в малки размери, първата версия дойде във версии с параметри 2B и 7B, с тегла, които можете да изтеглите и стартирате локално, за разлика от затворения, само за API Gemini. Google разпространява както базови (предварително обучени), така и настроени с инструкции варианти под разрешителен лиценз, който позволява търговска употреба. Фамилията бързо се разшири: CodeGemma за програмиране, PaliGemma за задачи с визуален език, RecurrentGemma за ефективни дълги последователности и Gemma 2 (и по-нови) с по-висока производителност при размери като 9B и 27B. Gemma е проектирана да работи добре с популярни инструменти, Hugging Face, Keras, PyTorch, JAX и Ollama, което я прави практичен избор за on-prem, чувствителни към поверителността или рентабилни внедрявания.
Техническа информация
Gemma използва трансформаторна архитектура само за декодер и повторно използва техники от Gemini изследвания, включително голям токенизатор на речник (около 256k токена) и обучение, дестилирано от по-големи модели на учители в поколението Gemma 2. Дестилацията на знания позволява на малък ученически модел да имитира много по-голям, постигайки силно качество при скромен размер. „Отворено тегло“ означава, че обучените параметри могат да се изтеглят, така че можете да ги прецизирате и хоствате самостоятелно, въпреки че данните за обучение и пълният конвейер не са напълно отворени.
Стратегическо въздействие
Vendor strategy
Пътните карти на доставчиците влияят на това какви функции вашият екип може да изгради по-нататък.
Cost and budget
Търговските условия и опциите за внедряване влияят върху дългосрочните разходи и риск.
Risk and safety
Стимулите на компанията оформят продуктовите стандарти, безопасността и откритостта.
Бъдещето на Google Gemma
Очаквайте Google да продължи да пуска варианти на Gemma, настроени за специфични модалности и задачи, визия, код, математика и използване на устройството, като същевременно намалява отпечатъка, необходим за тяхното изпълнение. Тъй като моделите с отворено тегло запълват празнината с граничните системи, Gemma позиционира Google, за да спечели разработчиците в мисленето и предимството на мощността и частните внедрявания, където данните не могат да напуснат сградата. По-тясната интеграция с Android, Chrome и инструменти като Ollama и Vertex AI ще направи фината настройка и локалните изводи все по-до ключ.
Внедряване в реалния свят
Изпълнение на чатбот изцяло офлайн на лаптоп или един GPU за чувствителни към поверителността данни
Фина настройка на малък модел Gemma във вътрешните документи на компанията за персонализиран асистент за поддръжка
Използване на CodeGemma като локален асистент за допълване на код и генериране в IDE
Изграждане на приложения за надписи на изображения или визуални въпроси и отговори с варианта PaliGemma на визуален език
Рискове и предпазни огради
Съобщенията за стартиране може да изпреварят стабилността в реалните производствени работни процеси.
Ценообразуването на API или промените в политиката могат да разбият предположенията за една нощ.
Зависимостта от един доставчик увеличава разходите за заключване и миграция.
Пътна карта за изпълнение
Оценявайте доставчиците, като използвате вашите собствени задачи и набори от данни.
Прегледайте поверителността, сигурността и правните условия преди интегриране.
Поддържайте резервен план за модели или доставчици.
Наблюдавайте бележките по изданието, така че промените в пътната карта да не изненадват екипите.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Google Gemma quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Google DeepMind
Frequently asked questions
What is Google Gemma?
Gemma е семейството на Google от леки, отворени AI модели, изградени от същите изследвания и технологии като Gemini. Той позволява на разработчиците да изтеглят, фино настройват и изпълняват способни модели на техния собствен хардуер, дори на един лаптоп или GPU.
Каква е основната разлика между Gemma и Gemini?
Тренираните тежести на Gemma могат да бъдат изтеглени и стартирани локално, докато Gemini се предлага като затворен модел чрез приложенията и API на Google.
Какви размери имаше в първото издание на Gemma през 2024 г.?
Първоначалното стартиране на Gemma включва модели с 2 милиарда и 7 милиарда параметри, умишлено достатъчно малки, за да работят на скромен хардуер.
Кой вариант на Gemma е специализиран за задачи по програмиране?
CodeGemma е вариантът, настроен за генериране и завършване на код, докато PaliGemma обработва визуален език, а RecurrentGemma е насочена към ефективни дълги последователности.
Какво означава „открито тегло“ за модел като Джема?
Открито тегло означава, че можете да изтеглите и стартирате обучените параметри, но пълните данни за обучение и тръбопроводът не е задължително да са с отворен код.
Коя техника помага на поколението Gemma 2 да постигне силно качество при малки размери?
Дестилирането на знания позволява на по-малък модел „ученик“ да се научи да имитира по-голям модел на „учител“, като съчетава висока производителност в компактен размер.