Bắt đầu sử dụng các mô hình Gemma

Nhóm mô hình mở Gemma bao gồm nhiều kích thước, chức năng và biến thể chuyên biệt theo nhiệm vụ của mô hình để giúp bạn xây dựng các giải pháp tạo sinh tuỳ chỉnh. Đây là các đường dẫn chính mà bạn có thể làm theo khi sử dụng mô hình Gemma trong một ứng dụng:

• Chọn một mô hình và triển khai mô hình đó nguyên trạng trong ứng dụng
• Chọn một mô hình, điều chỉnh mô hình đó cho một tác vụ cụ thể, sau đó triển khai mô hình đó trong một ứng dụng hoặc chia sẻ mô hình đó với cộng đồng.

Hướng dẫn này giúp bạn bắt đầu chọn một mô hình, kiểm thử các chức năng của mô hình đó và tuỳ ý điều chỉnh mô hình mà bạn đã chọn cho ứng dụng của mình.

Dùng thử Gemma 3 Tải trên Kaggle Tải trên Hugging Face

Chọn một mô hình

Phần này giúp bạn hiểu các biến thể chính thức của gia đình mô hình Gemma và chọn một mô hình cho ứng dụng của bạn. Các biến thể mô hình cung cấp các chức năng chung hoặc chuyên biệt cho các tác vụ cụ thể, đồng thời được cung cấp ở nhiều kích thước thông số để bạn có thể chọn một mô hình có các chức năng ưu tiên và đáp ứng các yêu cầu tính toán của bạn.

Danh sách mẫu Gemma

Bảng sau đây liệt kê các biến thể chính của gia đình mô hình Gemma và các nền tảng triển khai dự kiến của chúng:

Gia đình mô hình Gemma cũng bao gồm các mô hình nghiên cứu và mô hình đặc biệt, bao gồm ShieldGemma, DataGemma, Gemma Scope và Gemma-APS.

Kiểm thử mô hình

Bạn có thể kiểm thử các mô hình Gemma bằng cách thiết lập môi trường phát triển với mô hình đã tải xuống và phần mềm hỗ trợ. Sau đó, bạn có thể nhắc mô hình và đánh giá phản hồi của mô hình. Sử dụng một trong các sổ tay Python sau đây với khung học máy mà bạn muốn để thiết lập môi trường kiểm thử và nhắc một mô hình Gemma:

• Suy luận bằng Keras
• Suy luận bằng PyTorch
• Suy luận bằng thư viện Gemma

Kiểm thử Gemma 3 trong AI Studio

Bạn có thể nhanh chóng kiểm thử Gemma mà không cần thiết lập môi trường phát triển bằng Google AI Studio. Ứng dụng web này cho phép bạn thử các câu lệnh với Gemma và đánh giá khả năng của ứng dụng.

Cách dùng thử Gemma 3 trong Google AI Studio:

1. Mở AI Studio.

2. Trong bảng điều khiển Run settings (Cài đặt chạy) ở bên phải, trong trường Model (Mô hình), hãy chọn một mô hình Gemma có kích thước khác.

3. Ở cuối bảng điều khiển ở giữa, hãy nhập một câu lệnh và chọn Run (Chạy).

Để biết thêm thông tin về cách sử dụng AI Studio, hãy xem bài viết Bắt đầu nhanh với Google AI Studio.

Điều chỉnh mô hình

Bạn có thể thay đổi hành vi của các mô hình Gemma bằng cách điều chỉnh các mô hình đó. Việc điều chỉnh mô hình đòi hỏi một tập dữ liệu đầu vào và phản hồi dự kiến có kích thước và độ biến thiên đủ để hướng dẫn hành vi của mô hình. Bạn cũng cần nhiều tài nguyên điện toán và bộ nhớ hơn đáng kể để hoàn tất một lần chạy điều chỉnh so với khi chạy mô hình Gemma để tạo văn bản. Sử dụng một trong các sổ tay Python sau đây để thiết lập môi trường phát triển điều chỉnh và điều chỉnh mô hình Gemma:

• Điều chỉnh Gemma bằng tính năng điều chỉnh Keras và LoRA
• Điều chỉnh các mô hình Gemma lớn hơn bằng phương pháp huấn luyện phân tán

Các bước tiếp theo

Hãy xem các hướng dẫn sau để xây dựng thêm giải pháp bằng Gemma:

• Tạo chatbot bằng Gemma
• Triển khai Gemma cho môi trường sản xuất bằng Vertex AI
• Sử dụng Genkit với Ollama và Gemma