Начните работу с моделями Gemma

Семейство открытых моделей Gemma включает в себя ряд размеров моделей, возможностей и вариаций, ориентированных на конкретные задачи, которые помогут вам создавать собственные генеративные решения. Вот основные пути, которым вы можете следовать при использовании моделей Gemma в приложении:

• Выберите модель и разверните ее в своем приложении как есть.
• Выберите модель, настройте ее для конкретной задачи , а затем разверните в приложении или поделитесь ею с сообществом.

Это руководство поможет вам начать с выбора модели, тестирования ее возможностей и, при необходимости, настройки модели, выбранной вами для вашего приложения.

Выберите модель

Этот раздел поможет вам разобраться с официальными вариантами семейства моделей Gemma и выбрать модель для вашего применения. Варианты модели предоставляют общие возможности или специализированы для конкретных задач и предоставляются с различными размерами параметров, поэтому вы можете выбрать модель, которая имеет предпочитаемые вами возможности и соответствует вашим требованиям к вычислительным ресурсам.

Список моделей Джеммы

В следующей таблице перечислены основные варианты семейства моделей Gemma и предполагаемые платформы развертывания:

Вы можете скачать все официальные варианты моделей Gemma на сайте Kaggle Models .

Тестовые модели

Вы можете протестировать модели Gemma, настроив среду разработки с загруженной моделью и вспомогательным программным обеспечением. Затем вы можете подсказать модель и оценить ее ответы. Используйте один из следующих блокнотов Python с предпочитаемой вами платформой машинного обучения, чтобы настроить среду тестирования и запросить модель Gemma:

• Вывод с Керасом
• Вывод с помощью PyTorch
• Вывод с помощью JAX и Flax

Тестируйте Gemma 2 в AI Studio

Вы можете быстро протестировать Gemma 2 без настройки среды разработки с помощью Google AI Studio. Это веб-приложение позволяет опробовать подсказки в Gemma 2 и оценить его возможности.

Чтобы попробовать Gemma 2 в Google AI Studio:

1. Откройте AI Studio .

2. На панели настроек запуска справа в поле Модель выберите модель Gemma 2 .

3. В нижней части центральной панели введите запрос и выберите «Выполнить» .

Дополнительную информацию об использовании AI Studio см. в кратком руководстве по Google AI Studio .

Тюнинг моделей

Вы можете изменить поведение моделей Gemma, выполнив их настройку. Для настройки модели требуется набор входных данных и ожидаемых ответов достаточного размера и вариаций, чтобы определять поведение модели. Вам также потребуется значительно больше вычислительных ресурсов и ресурсов памяти для завершения настройки по сравнению с использованием модели Gemma для генерации текста. Используйте один из следующих блокнотов Python, чтобы настроить среду разработки и настроить модель Gemma:

• Настройте Джемму с помощью настройки Keras и LoRA.
• Настройте Джемму с помощью JAX
• Настройте более крупные модели Gemma с помощью распределенного обучения

Следующие шаги

Ознакомьтесь с этими руководствами для создания дополнительных решений с помощью Gemma:

• Создайте чат-бота с Джеммой
• Разверните Gemma в производстве с помощью Vertex AI
• База огня Генкит, Оллама и Джемма