Bắt đầu sử dụng các mô hình Gemma

Dòng mô hình mở Gemma bao gồm nhiều kích thước mô hình, chức năng và biến thể chuyên biệt theo nhiệm vụ để giúp bạn xây dựng các giải pháp tạo sinh tuỳ chỉnh. Dưới đây là các đường dẫn chính mà bạn có thể làm theo khi sử dụng mô hình Gemma trong một ứng dụng:

• Chọn một mô hình và triển khai nguyên trạng trong ứng dụng của bạn
• Chọn một mô hình, điều chỉnh mô hình đó cho một nhiệm vụ cụ thể rồi triển khai mô hình đó trong ứng dụng hoặc chia sẻ mô hình đó với cộng đồng.

Hướng dẫn này giúp bạn bắt đầu bằng việc chọn một mô hình, kiểm thử các tính năng của mô hình đó và điều chỉnh mô hình mà bạn đã chọn cho ứng dụng của mình (không bắt buộc).

Chọn một người mẫu

Phần này giúp bạn hiểu rõ các biến thể chính thức của nhóm mô hình Gemma và chọn một mô hình cho ứng dụng của mình. Các biến thể của mô hình cung cấp các chức năng chung hoặc chuyên thực hiện các tác vụ cụ thể, đồng thời được cung cấp theo nhiều kích thước tham số để bạn có thể chọn một mô hình có tính năng ưu tiên và đáp ứng các yêu cầu về điện toán của mình.

Danh sách mô hình Gemma

Bảng sau đây liệt kê các biến thể chính của nhóm mô hình Gemma và chức năng cấp cao của chúng:

Bạn có thể tải tất cả các biến thể của mô hình Gemma chính thức xuống từ Mô hình Kaggle.

Mô hình thử nghiệm

Bạn có thể kiểm thử các mô hình Gemma bằng cách thiết lập môi trường phát triển với mô hình đã tải xuống và phần mềm hỗ trợ. Sau đó, bạn có thể nhắc mô hình và đánh giá các phản hồi của mô hình đó. Sử dụng một trong các sổ tay Python sau đây với khung máy học mà bạn muốn dùng để thiết lập môi trường kiểm thử và nhắc một mô hình Gemma:

• Suy luận bằng Keras
• Suy luận bằng PyTorch
• Suy luận bằng JAX và Flax

Kiểm thử Gemma 2 trong AI Studio

Bạn có thể nhanh chóng kiểm thử Gemma 2 mà không cần thiết lập môi trường phát triển bằng Google AI Studio. Ứng dụng web này cho phép bạn dùng thử các lời nhắc bằng Gemma 2 và đánh giá các tính năng của ứng dụng này.

Cách dùng thử Gemma 2 trong Google AI Studio:

1. Mở AI Studio.

2. Trong bảng Run settings (Chạy chế độ cài đặt) ở bên phải, trong trường Model (Mô hình), hãy chọn một mô hình Gemma 2.

3. Ở cuối bảng điều khiển ở giữa, hãy nhập một câu lệnh rồi chọn Run (Chạy).

Để biết thêm thông tin về cách sử dụng AI Studio, hãy xem bài viết Hướng dẫn bắt đầu nhanh về Google AI Studio.

Chỉnh các mô hình

Bạn có thể thay đổi hành vi của các mô hình Gemma bằng cách dò các mô hình đó. Để điều chỉnh một mô hình, bạn cần có một tập dữ liệu đầu vào và phản hồi dự kiến có đủ kích thước và biến thể để định hướng hành vi của mô hình. Bạn cũng cần nhiều tài nguyên điện toán và bộ nhớ hơn đáng kể để hoàn tất quá trình chạy điều chỉnh so với chạy mô hình Gemma để tạo văn bản. Sử dụng một trong các sổ tay Python sau đây để thiết lập môi trường phát triển tinh chỉnh và điều chỉnh mô hình Gemma:

• Điều chỉnh Gemma bằng tính năng điều chỉnh Keras và LoRA
• Điều chỉnh Gemma bằng JAX
• Điều chỉnh các mô hình Gemma lớn hơn bằng quy trình huấn luyện phân tán

Các bước tiếp theo

Hãy tham khảo những hướng dẫn sau để xây dựng các giải pháp khác với Gemma:

• Tạo bot trò chuyện bằng Gemma
• Triển khai Gemma vào môi trường thực tế bằng Vertex AI
• Firebase Genkit, Ollama và Gemma