Семейство открытых моделей Gemma включает в себя модели различных размеров, возможностей и специализированных вариантов для решения конкретных задач, что позволяет создавать собственные генеративные решения. Вот основные пути использования моделей Gemma в приложениях:
- Выберите модель и разверните её в своём приложении как есть.
- Выберите модель, настройте её для решения конкретной задачи , а затем разверните в приложении или поделитесь ею с сообществом.
Это руководство поможет вам начать работу с выбором модели, тестированием ее возможностей и, при необходимости, настройкой выбранной модели для вашего приложения.
Найдите это на Kaggle Найдите это на Hugging Face
Выберите модель
В этом разделе вы сможете ознакомиться с официальными вариантами семейства моделей Gemma и выбрать модель для своего приложения. Варианты моделей предоставляют общие возможности или специализируются на конкретных задачах и предлагаются с различными размерами параметров, поэтому вы можете выбрать модель, которая обладает необходимыми вам возможностями и соответствует вашим вычислительным требованиям.
Список моделей Джеммы
В таблице ниже перечислены основные варианты семейства моделей Gemma и предназначенные для них платформы развертывания:
| Размер параметра | Вход | Выход | Вариант | Фундамент | Предполагаемые платформы |
|---|---|---|---|---|---|
| 270М | Текст | Текст | Джемма 3 | Мобильные устройства и одноплатные компьютеры | |
| 1Б | Текст | Текст | Джемма 3 | Мобильные устройства и одноплатные компьютеры | |
| E2B | Текст, изображения, аудио | Текст | Джемма 3н | Мобильные устройства | |
| 2Б | Текст | Текст | Джемма 2 | Мобильные устройства и ноутбуки | |
| Джемма 1 | |||||
| 3Б | Текст, изображения | Текст | Джемма 2 | Настольные компьютеры и небольшие серверы | |
| E4B | Текст, изображения, аудио | Текст | Джемма 3н | Мобильные устройства и ноутбуки | |
| 4Б | Текст, изображения | Текст | Джемма 3 | Настольные компьютеры и небольшие серверы | |
| 7Б | Текст | Текст | Джемма 1 | Настольные компьютеры и небольшие серверы | |
| 9Б | Текст | Текст | Джемма 2 | Высокопроизводительные настольные компьютеры и серверы | |
| 10Б | Текст, изображения | Текст | Джемма 2 | Высокопроизводительные настольные компьютеры и серверы | |
| 12Б | Текст, изображения | Текст | Джемма 3 | Высокопроизводительные настольные компьютеры и серверы | |
| 27Б | Текст, изображения | Текст | Джемма 3 | Крупные серверы или серверные кластеры | |
| Текст | Текст | Джемма 2 | |||
| 28Б | Текст, изображения | Текст | Джемма 2 | Крупные серверы или серверные кластеры |
Семейство моделей Gemma также включает в себя модели специального назначения и исследовательские модели, в том числе ShieldGemma , DataGemma , Gemma Scope и Gemma-APS .
Тестовые модели
Вы можете протестировать модели Gemma, настроив среду разработки с загруженной моделью и соответствующим программным обеспечением. Затем вы можете задать модели параметры и оценить её ответы. Используйте один из следующих блокнотов Python с предпочитаемой вами средой машинного обучения, чтобы настроить среду тестирования и задать параметры модели Gemma:
- Вывод результатов с помощью Keras
- Вывод результатов с помощью PyTorch
- Вывод результатов с помощью библиотеки Gemma
Настройте модели
Вы можете изменить поведение моделей Gemma, выполнив их настройку. Для настройки модели требуется набор входных данных и ожидаемых ответов достаточного размера и вариативности, чтобы направлять поведение модели. Кроме того, для завершения процесса настройки требуется значительно больше вычислительных ресурсов и памяти по сравнению с запуском модели Gemma для генерации текста. Используйте один из следующих блокнотов Python для настройки среды разработки и настройки модели Gemma:
- Настройте Gemma с помощью Keras и LoRA.
- Настраивайте более крупные модели Gemma с помощью распределенного обучения.
Следующие шаги
Ознакомьтесь с этими руководствами по созданию большего количества решений с помощью Gemma: