Bắt đầu sử dụng các mô hình Gemma

Nhóm mô hình nguồn mở Gemma bao gồm nhiều kích thước mô hình, khả năng và các biến thể chuyên biệt theo nhiệm vụ để giúp bạn xây dựng các giải pháp tạo sinh tuỳ chỉnh. Đây là những đường dẫn chính mà bạn có thể làm theo khi sử dụng các mô hình Gemma trong một ứng dụng:

• Chọn một mô hình và triển khai mô hình đó nguyên trạng trong ứng dụng của bạn
• Chọn một mô hình, điều chỉnh mô hình đó cho một tác vụ cụ thể, rồi triển khai mô hình đó trong một ứng dụng hoặc chia sẻ mô hình đó với cộng đồng.

Hướng dẫn này giúp bạn bắt đầu chọn một mô hình, kiểm thử các chức năng của mô hình đó và tuỳ ý điều chỉnh mô hình bạn đã chọn cho ứng dụng của mình.

Tải xuống trên Kaggle Tải xuống trên Hugging Face

Chọn một người mẫu

Phần này giúp bạn hiểu rõ các biến thể chính thức của họ mô hình Gemma và chọn một mô hình cho ứng dụng của mình. Các biến thể mô hình cung cấp các chức năng chung hoặc được chuyên biệt hoá cho các tác vụ cụ thể và được cung cấp ở nhiều kích thước tham số để bạn có thể chọn một mô hình có các chức năng mà bạn muốn và đáp ứng các yêu cầu về điện toán.

Danh sách các mô hình Gemma

Bảng sau đây liệt kê các biến thể chính của họ mô hình Gemma và nền tảng triển khai dự kiến của các biến thể đó:

Nhóm mô hình Gemma cũng bao gồm các mô hình nghiên cứu và mô hình chuyên dụng, trong đó có ShieldGemma, DataGemma, Gemma Scope và Gemma-APS.

Mô hình kiểm thử

Bạn có thể kiểm thử các mô hình Gemma bằng cách thiết lập một môi trường phát triển với mô hình đã tải xuống và phần mềm hỗ trợ. Sau đó, bạn có thể đưa ra câu lệnh cho mô hình và đánh giá các câu trả lời của mô hình. Sử dụng một trong các sổ tay Python sau đây với khung học máy mà bạn muốn để thiết lập môi trường kiểm thử và nhắc mô hình Gemma:

• Suy luận bằng Keras
• Suy luận bằng PyTorch
• Suy luận bằng thư viện Gemma

Điều chỉnh mô hình

Bạn có thể thay đổi hành vi của các mô hình Gemma bằng cách tinh chỉnh các mô hình đó. Việc điều chỉnh một mô hình đòi hỏi phải có một tập dữ liệu gồm các đầu vào và phản hồi dự kiến có kích thước và độ biến thiên đủ để hướng dẫn hành vi của mô hình. Bạn cũng cần nhiều tài nguyên điện toán và bộ nhớ hơn đáng kể để hoàn tất một lượt tinh chỉnh so với việc chạy mô hình Gemma để tạo văn bản. Sử dụng một trong các sổ tay Python sau để thiết lập môi trường phát triển tinh chỉnh và tinh chỉnh một mô hình Gemma:

• Điều chỉnh Gemma bằng Keras và phương pháp điều chỉnh LoRA
• Điều chỉnh các mô hình Gemma lớn hơn bằng phương pháp huấn luyện phân tán

Các bước tiếp theo

Hãy xem các hướng dẫn này để xây dựng thêm các giải pháp bằng Gemma:

• Tạo chatbot bằng Gemma
• Triển khai Gemma vào quy trình sản xuất bằng Vertex AI
• Sử dụng Genkit với Ollama và Gemma