Thực thi mã

Tính năng thực thi mã của Gemini API cho phép mô hình tạo và chạy mã Python, đồng thời học lặp lại từ kết quả cho đến khi có kết quả cuối cùng. Bạn có thể sử dụng khả năng thực thi mã này để xây dựng các ứng dụng hưởng lợi từ việc lập luận dựa trên mã và tạo ra đầu ra văn bản. Ví dụ: bạn có thể sử dụng quá trình thực thi mã trong một ứng dụng giải phương trình hoặc xử lý văn bản.

Tính năng thực thi mã hoạt động trong cả AI Studio và Gemini API. Trong AI Studio, bạn có thể bật tính năng thực thi mã trong phần Cài đặt nâng cao. Gemini API cung cấp tính năng thực thi mã dưới dạng một công cụ, tương tự như lệnh gọi hàm. Sau khi bạn thêm phương thức thực thi mã dưới dạng một công cụ, mô hình sẽ quyết định thời điểm sử dụng công cụ này.

Bắt đầu thực thi mã

Xem trên ai.google.dev Chạy trong Google Colab Xem nguồn trên GitHub

Phần này giả định rằng bạn đã cài đặt Gemini SDK và định cấu hình một khoá API, như minh hoạ trong phần quickstart.

Thực thi mã so với gọi hàm

Thực thi mã và gọi hàm là các tính năng tương tự nhau:

  • Quá trình thực thi mã cho phép mô hình chạy mã trong phần phụ trợ API trong một môi trường cố định, tách biệt.
  • Phương thức gọi hàm cho phép bạn chạy các hàm mà mô hình yêu cầu trong bất kỳ môi trường nào bạn muốn.

Nhìn chung, bạn nên ưu tiên sử dụng tính năng thực thi mã nếu có thể xử lý trường hợp sử dụng của bạn. Quá trình thực thi mã đơn giản hơn (bạn chỉ cần bật tính năng này) và được phân giải trong một yêu cầu GenerateContent duy nhất (do đó sẽ phát sinh một khoản phí duy nhất). Việc gọi hàm sẽ lấy thêm yêu cầu GenerateContent để gửi lại dữ liệu đầu ra từ mỗi lệnh gọi hàm (do đó phát sinh nhiều khoản phí).

Trong hầu hết trường hợp, bạn nên sử dụng phương thức gọi hàm nếu có các hàm riêng mà bạn muốn chạy cục bộ và bạn nên sử dụng phương thức thực thi mã nếu muốn API viết và chạy mã Python cho bạn và trả về kết quả.

Thanh toán

Bạn không phải trả thêm phí khi bật tính năng thực thi mã từ API Gemini. Bạn sẽ được tính phí theo tỷ lệ hiện tại của mã thông báo đầu vào và đầu ra.

Dưới đây là một vài thông tin khác cần biết về việc thanh toán cho việc thực thi mã:

  • Bạn chỉ phải trả phí một lần cho các mã thông báo đầu vào mà bạn truyền cho mô hình, và bạn sẽ bị tính phí cho các mã thông báo đầu ra cuối cùng mà mô hình trả về cho bạn.
  • Những mã thông báo đại diện cho mã đã tạo sẽ được tính là mã thông báo đầu ra.
  • Kết quả thực thi mã cũng được tính là mã thông báo đầu ra.

Các điểm hạn chế

  • Mô hình chỉ có thể tạo và thực thi mã. Phương thức này không thể trả về các cấu phần phần mềm khác như tệp nội dung nghe nhìn.
  • Tính năng này không hỗ trợ I/O tệp hoặc các trường hợp sử dụng liên quan đến đầu ra không phải là văn bản (ví dụ: biểu đồ dữ liệu).
  • Quá trình thực thi mã có thể chạy tối đa 30 giây trước khi hết thời gian chờ.
  • Trong một số trường hợp, việc bật tính năng thực thi mã có thể dẫn đến sự hồi quy ở các phần khác của đầu ra mô hình (ví dụ: viết một câu chuyện).
  • Có một số khác biệt về khả năng của các mô hình khác nhau trong việc sử dụng thành công quá trình thực thi mã. Gemini 1.5 Pro là mô hình hoạt động hiệu quả nhất, dựa trên kết quả thử nghiệm của chúng tôi.