Bắt đầu sử dụng các mô hình Gemma

Dòng mô hình mở Gemma bao gồm nhiều kích thước mô hình, chức năng, và các biến thể dành riêng cho từng nhiệm vụ để giúp bạn xây dựng các giải pháp tạo sinh tuỳ chỉnh. Sau đây là những lộ trình chính mà bạn có thể thực hiện khi sử dụng mô hình Gemma trong ứng dụng:

• Chọn một mô hình và triển khai nguyên trạng trong ứng dụng của bạn
• Chọn một mô hình, điều chỉnh mô hình đó cho một tác vụ cụ thể rồi triển khai mô hình đó trong một ứng dụng hoặc chia sẻ với cộng đồng.

Hướng dẫn này giúp bạn bắt đầu chọn một mô hình, kiểm thử các khả năng của Trợ lý và điều chỉnh mô hình mà bạn đã chọn (không bắt buộc) ứng dụng của bạn.

Chọn một người mẫu

Phần này giúp bạn hiểu rõ các biến thể chính thức của mô hình Gemma gia đình và chọn một kiểu máy cho ứng dụng của bạn. Các biến thể của mô hình cung cấp có khả năng khái quát hoặc chuyên biệt cho các công việc cụ thể và được cung cấp có kích thước thông số khác nhau để bạn có thể chọn một mô hình mong muốn và đáp ứng các yêu cầu về điện toán của bạn.

Danh sách mô hình Gemma

Bảng sau đây liệt kê các biến thể chính của nhóm mô hình Gemma và nền tảng triển khai dự định:

Bạn có thể tải tất cả các biến thể của mô hình Gemma chính thức xuống từ Mô hình Kaggle.

Mô hình thử nghiệm

Bạn có thể kiểm thử các mô hình Gemma bằng cách thiết lập môi trường phát triển với mô hình được tải xuống và phần mềm hỗ trợ. Sau đó, bạn có thể nhắc mô hình đánh giá các câu trả lời. Sử dụng một trong các sổ tay Python sau đây bằng khung máy học ưu tiên để thiết lập môi trường thử nghiệm và lời nhắc mô hình Gemma:

• Suy luận bằng Keras
• Suy luận bằng PyTorch
• Suy luận bằng JAX và Flax

Kiểm thử Gemma 2 trong AI Studio

Bạn có thể nhanh chóng kiểm thử Gemma 2 mà không cần thiết lập môi trường phát triển bằng cách sử dụng AI Studio của Google. Ứng dụng web này cho phép bạn thử lời nhắc với Gemma 2 và đánh giá khả năng của công cụ đó.

Cách dùng thử Gemma 2 trong Google AI Studio:

1. Mở AI Studio.

2. Trong bảng điều khiển Run settings (Chạy chế độ cài đặt) ở bên phải, trong trường Model (Mô hình), chọn một mô hình Gemma 2.

3. Ở cuối bảng điều khiển ở giữa, hãy nhập một câu lệnh rồi chọn Run (Chạy).

Để biết thêm thông tin về cách sử dụng AI Studio, hãy xem Hướng dẫn bắt đầu nhanh về Google AI Studio.

Chỉnh các mô hình

Bạn có thể thay đổi hành vi của các mô hình Gemma bằng cách dò các mô hình đó. Chỉnh một mô hình cần có một tập dữ liệu đầu vào và phản hồi dự kiến có đủ kích thước và biến thiên để định hướng hoạt động của mô hình. Bạn cũng cần nhiều tài nguyên điện toán và bộ nhớ hơn để hoàn tất lần chạy điều chỉnh so với khi chạy mô hình Gemma để tạo văn bản. Sử dụng một trong các sổ tay Python sau đây để thiết lập môi trường phát triển điều chỉnh và tinh chỉnh mô hình Gemma:

• Điều chỉnh Gemma bằng tính năng điều chỉnh Keras và LoRA
• Điều chỉnh Gemma bằng JAX
• Điều chỉnh các mô hình Gemma lớn hơn bằng quy trình huấn luyện phân tán

Các bước tiếp theo

Hãy tham khảo những hướng dẫn sau để xây dựng các giải pháp khác với Gemma:

• Tạo bot trò chuyện bằng Gemma
• Triển khai Gemma vào môi trường thực tế bằng Vertex AI
• Firebase Genkit, Ollama và Gemma