Giới hạn số lượng yêu cầu

Giới hạn tốc độ điều chỉnh số lượng yêu cầu bạn có thể gửi đến Gemini API trong một khung thời gian nhất định. Những hạn mức này giúp duy trì việc sử dụng hợp lý, bảo vệ khỏi hành vi sai trái và giúp duy trì hiệu suất hệ thống cho tất cả người dùng.

Xem hạn mức hiện tại của bạn trong AI Studio

Cách hoạt động của giới hạn tần suất

Giới hạn tốc độ thường được đo lường theo ba phương diện:

• Số yêu cầu mỗi phút (RPM)
• Số mã thông báo mỗi phút (đầu vào) (TPM)
• Số yêu cầu mỗi ngày (RPD)

Mức sử dụng của bạn được đánh giá dựa trên từng hạn mức và việc vượt quá bất kỳ hạn mức nào trong số đó sẽ kích hoạt lỗi giới hạn tốc độ. Ví dụ: nếu giới hạn RPM của bạn là 20, thì việc đưa ra 21 yêu cầu trong vòng một phút sẽ dẫn đến lỗi, ngay cả khi bạn chưa vượt quá TPM hoặc các giới hạn khác.

Hạn mức sử dụng được áp dụng cho mỗi dự án, chứ không phải cho mỗi khoá API. Hạn mức về số yêu cầu mỗi ngày (RPD) sẽ được đặt lại vào lúc nửa đêm theo giờ Thái Bình Dương.

Hạn mức sẽ khác nhau tuỳ thuộc vào mô hình cụ thể đang được sử dụng và một số hạn mức chỉ áp dụng cho một số mô hình cụ thể. Ví dụ: Số hình ảnh mỗi phút (IPM) chỉ được tính cho các mô hình có khả năng tạo hình ảnh tạo sinh (Nano Banana), nhưng về mặt lý thuyết thì tương tự như TPM. Các mô hình khác có thể có giới hạn về số lượng mã thông báo mỗi ngày (TPD).

Giới hạn tốc độ sẽ nghiêm ngặt hơn đối với các mô hình thử nghiệm và mô hình xem trước.

Hạn mức dựa trên mức chi tiêu

Ngoài giới hạn về số yêu cầu mỗi phút (RPM) và số mã thông báo mỗi phút (TPM), Gemini API còn thực thi giới hạn theo mức chi tiêu để bảo vệ bạn khỏi các khoản phí ngoài dự kiến. Việc các hạn mức này có áp dụng cho tài khoản của bạn hay không phụ thuộc vào lịch sử thanh toán và bậc sử dụng của bạn.

Bảng sau đây cho biết giới hạn số lượng yêu cầu dựa trên mức chi tiêu cho từng bậc sử dụng. Các hạn mức này được đánh giá trong khoảng thời gian 10 phút liên tục. Việc tài khoản của bạn có phải tuân thủ những hạn mức này hay không phụ thuộc vào nhật ký thanh toán và trạng thái tài khoản của bạn.

Cấp sử dụng	Giới hạn tốc độ chi tiêu (mỗi 10 phút)
Free	Không áp dụng
Cấp 1	đô la Hong Kong
Cấp 2	đô la Hong Kong
Cấp 3	đô la Hong Kong

Nếu bạn đạt đến giới hạn dựa trên mức chi tiêu, API sẽ trả về lỗi 429 RESOURCE_EXHAUSTED. Cách giải quyết:

• Chờ một lát rồi thử lại.
• Giảm tỷ lệ yêu cầu tốn kém, ví dụ: bằng cách sử dụng cửa sổ ngữ cảnh nhỏ hơn hoặc kết quả ngắn hơn.
• Nếu bạn thường xuyên đạt đến giới hạn này trong quá trình sử dụng thông thường, hãy yêu cầu tăng giới hạn tốc độ.

Cấp sử dụng

Giới hạn tốc độ được liên kết với cấp sử dụng của dự án. Khi mức sử dụng và mức chi tiêu API tăng lên, bạn sẽ tự động được nâng cấp lên một cấp cao hơn với hạn mức tốc độ cao hơn.

Điều kiện để đạt được Cấp 2 và Cấp 3 dựa trên tổng mức chi tiêu tích luỹ cho các dịch vụ của Google Cloud (bao gồm nhưng không giới hạn ở Gemini API) cho tài khoản thanh toán được liên kết với dự án của bạn.

Cấp sử dụng	Vòng loại	Giới hạn cấp thanh toán
Free	Dự án đang hoạt động hoặc bản dùng thử miễn phí	Không áp dụng
Cấp 1	Thiết lập và liên kết một tài khoản thanh toán đang hoạt động	250 USD
Cấp 2	Đã thanh toán 100 USD + 3 ngày kể từ lần thanh toán thành công đầu tiên	2.000 USD
Cấp 3	Đã thanh toán 1.000 USD + 30 ngày kể từ lần thanh toán thành công đầu tiên	20.000 – 100.000 USD trở lên

Mặc dù việc đáp ứng các tiêu chí đủ điều kiện đã nêu thường là đủ để được phê duyệt, nhưng trong một số ít trường hợp, yêu cầu nâng cấp có thể bị từ chối dựa trên các yếu tố khác được xác định trong quá trình xem xét.

Hệ thống này giúp duy trì tính bảo mật và tính toàn vẹn của nền tảng Gemini API cho tất cả người dùng.

Hạn mức yêu cầu Gemini API

Giới hạn tốc độ phụ thuộc vào nhiều yếu tố (chẳng hạn như cấp sử dụng của bạn) và có thể xem được trong Google AI Studio. Khi cấp và trạng thái tài khoản của bạn thay đổi theo thời gian, giới hạn về tốc độ sẽ tự động cập nhật.

Xem hạn mức yêu cầu đang hoạt động trong AI Studio

Hạn mức tốc độ được chỉ định không được đảm bảo và dung lượng thực tế có thể khác.

Giới hạn số lượng yêu cầu suy luận ưu tiên

Mức tiêu thụ Ưu tiên có giới hạn tốc độ riêng, mặc dù mức tiêu thụ được tính vào giới hạn tốc độ lưu lượng truy cập tương tác tổng thể. Hạn mức mặc định là: 0,3 lần hạn mức tiêu chuẩn cho mỗi mô hình và cấp

Giới hạn tốc độ của API hàng loạt

Yêu cầu API theo lô phải tuân theo giới hạn tốc độ riêng, tách biệt với các lệnh gọi API không theo lô.

• Số yêu cầu theo lô đồng thời: 100
• Giới hạn kích thước tệp đầu vào: 2 GB
• Hạn mức lưu trữ tệp: 20 GB
• Mã thông báo được đưa vào hàng đợi cho mỗi mô hình: Bảng Mã thông báo được đưa vào hàng đợi theo lô liệt kê số lượng mã thông báo tối đa có thể được đưa vào hàng đợi để xử lý hàng loạt trên tất cả các công việc theo lô đang hoạt động của bạn cho một mô hình nhất định.

Cách nâng cấp lên cấp độ tiếp theo

Để chuyển từ cấp Miễn phí sang cấp có tính phí, trước tiên, bạn phải thiết lập thông tin thanh toán trong AI Studio.

Sau khi dự án của bạn đáp ứng các tiêu chí được chỉ định, dự án đó sẽ được tự động nâng cấp lên cấp tiếp theo. Việc nâng cấp từ gói Miễn phí lên Gói 1 thường có hiệu lực ngay lập tức và các lần nâng cấp gói tiếp theo sẽ có hiệu lực trong vòng 10 phút. Chuyển đến trang Dự án trong AI Studio để kiểm tra các cấp của bạn.

Yêu cầu tăng giới hạn tỷ lệ

Mỗi biến thể mô hình có một giới hạn số lượng yêu cầu liên quan (số yêu cầu mỗi phút, RPM). Để biết thông tin chi tiết về các giới hạn tốc độ đó, hãy xem trang Giới hạn tốc độ của AI Studio.

Yêu cầu tăng giới hạn số lượng yêu cầu cho cấp có tính phí

Chúng tôi không đảm bảo sẽ tăng hạn mức yêu cầu cho bạn, nhưng chúng tôi sẽ cố gắng hết sức để xem xét yêu cầu của bạn.