Начните работу с моделями Gemma

Семейство открытых моделей Gemma включает в себя модели различных размеров, возможностей и специализированных вариантов для решения конкретных задач, что позволяет создавать собственные генеративные решения. Вот основные пути использования моделей Gemma в приложениях:

  • Выберите модель и разверните её в своём приложении как есть.
  • Выберите модель, настройте её для решения конкретной задачи , а затем разверните в приложении или поделитесь ею с сообществом.

Это руководство поможет вам начать работу с выбором модели, тестированием ее возможностей и, при необходимости, настройкой выбранной модели для вашего приложения.

Найдите это на Kaggle Найдите это на Hugging Face

Выберите модель

В этом разделе вы сможете ознакомиться с официальными вариантами семейства моделей Gemma и выбрать модель для своего приложения. Варианты моделей предоставляют общие возможности или специализируются на конкретных задачах и предлагаются с различными размерами параметров, поэтому вы можете выбрать модель, которая обладает необходимыми вам возможностями и соответствует вашим вычислительным требованиям.

Список моделей Джеммы

В таблице ниже перечислены основные варианты семейства моделей Gemma и предназначенные для них платформы развертывания:

Размер параметра Вход Выход Вариант Фундамент Предполагаемые платформы
270М Текст Текст Джемма 3 Мобильные устройства и одноплатные компьютеры
Текст Текст Джемма 3 Мобильные устройства и одноплатные компьютеры
E2B Текст, изображения, аудио Текст Джемма 3н Мобильные устройства
Текст Текст Джемма 2 Мобильные устройства и ноутбуки
Джемма 1
Текст, изображения Текст Джемма 2 Настольные компьютеры и небольшие серверы
E4B Текст, изображения, аудио Текст Джемма 3н Мобильные устройства и ноутбуки
Текст, изображения Текст Джемма 3 Настольные компьютеры и небольшие серверы
Текст Текст Джемма 1 Настольные компьютеры и небольшие серверы
Текст Текст Джемма 2 Высокопроизводительные настольные компьютеры и серверы
10Б Текст, изображения Текст Джемма 2 Высокопроизводительные настольные компьютеры и серверы
12Б Текст, изображения Текст Джемма 3 Высокопроизводительные настольные компьютеры и серверы
27Б Текст, изображения Текст Джемма 3 Крупные серверы или серверные кластеры
Текст Текст Джемма 2
28Б Текст, изображения Текст Джемма 2 Крупные серверы или серверные кластеры

Семейство моделей Gemma также включает в себя модели специального назначения и исследовательские модели, в том числе ShieldGemma , DataGemma , Gemma Scope и Gemma-APS .

Тестовые модели

Вы можете протестировать модели Gemma, настроив среду разработки с загруженной моделью и соответствующим программным обеспечением. Затем вы можете задать модели параметры и оценить её ответы. Используйте один из следующих блокнотов Python с предпочитаемой вами средой машинного обучения, чтобы настроить среду тестирования и задать параметры модели Gemma:

Настройте модели

Вы можете изменить поведение моделей Gemma, выполнив их настройку. Для настройки модели требуется набор входных данных и ожидаемых ответов достаточного размера и вариативности, чтобы направлять поведение модели. Кроме того, для завершения процесса настройки требуется значительно больше вычислительных ресурсов и памяти по сравнению с запуском модели Gemma для генерации текста. Используйте один из следующих блокнотов Python для настройки среды разработки и настройки модели Gemma:

Следующие шаги

Ознакомьтесь с этими руководствами по созданию большего количества решений с помощью Gemma: