Tính năng thực thi mã của Gemini API cho phép mô hình tạo và chạy Mã Python và học lặp lại từ kết quả cho đến khi đến đầu ra cuối cùng. Bạn có thể dùng khả năng thực thi mã này để xây dựng các ứng dụng hưởng lợi từ việc lập luận dựa trên mã và tạo ra đầu ra văn bản. Cho ví dụ: bạn có thể sử dụng thực thi mã trong một ứng dụng giải phương trình hoặc xử lý văn bản.
Tính năng thực thi mã hoạt động trong cả AI Studio và Gemini API. Trong AI Studio, bạn có thể bật tính năng thực thi mã trong phần Cài đặt nâng cao. API Gemini cung cấp tính năng thực thi mã như một công cụ, tương tự như gọi hàm. Sau khi bạn thêm thực thi mã như một công cụ, mô hình sẽ quyết định thời điểm sử dụng mã đó.
Bắt đầu thực thi mã
Phần này giả định rằng bạn đã cài đặt SDK Gemini và định cấu hình một API như minh hoạ trong phần bắt đầu nhanh.
Thực thi mã so với gọi hàm
Thực thi mã và gọi hàm là tính năng tương tự:
- Quá trình thực thi mã cho phép mô hình này chạy mã trong phần phụ trợ API theo một cách cố định, tách biệt môi trường.
- Phương thức gọi hàm cho phép bạn chạy các hàm mà mô hình yêu cầu, trong bất kỳ môi trường nào bạn muốn.
Nhìn chung, bạn nên ưu tiên sử dụng phương thức thực thi mã nếu phương thức này có thể xử lý việc sử dụng của bạn
trường hợp. Quá trình thực thi mã đơn giản hơn (bạn chỉ cần bật tính năng này) và được phân giải trong
yêu cầu GenerateContent duy nhất (do đó sẽ phát sinh một khoản phí). Chức năng
lệnh gọi sẽ nhận thêm một yêu cầu GenerateContent để gửi lại dữ liệu đầu ra
từ mỗi lệnh gọi hàm (do đó phát sinh nhiều phí).
Trong hầu hết trường hợp, bạn nên sử dụng phương thức gọi hàm nếu có hàm của riêng mình mà bạn muốn chạy trên máy và bạn nên dùng chức năng thực thi mã nếu muốn API để viết và chạy mã Python cho bạn và trả về kết quả.
Thanh toán
Bạn không phải trả thêm phí khi cho phép thực thi mã từ API Gemini. Bạn sẽ được tính phí theo mức giá đầu vào và đầu ra hiện tại mã thông báo.
Dưới đây là một vài thông tin khác cần biết về việc thanh toán cho việc thực thi mã:
- Bạn chỉ phải trả phí một lần cho các mã thông báo đầu vào mà bạn truyền cho mô hình, và bạn sẽ phải trả phí cho mã thông báo đầu ra cuối cùng do mô hình trả về cho bạn.
- Những mã thông báo đại diện cho mã đã tạo sẽ được tính là mã thông báo đầu ra.
- Kết quả thực thi mã cũng được tính là mã thông báo đầu ra.
Các điểm hạn chế
- Mô hình chỉ có thể tạo và thực thi mã. Không thể trả về các cấu phần phần mềm khác như tệp đa phương tiện.
- Tính năng này không hỗ trợ thao tác I/O đối với tệp hoặc các trường hợp sử dụng có liên quan đến đầu ra không phải là văn bản (ví dụ: biểu đồ dữ liệu hoặc tải tệp CSV lên).
- Quá trình thực thi mã có thể chạy tối đa 30 giây trước khi hết thời gian chờ.
- Trong một số trường hợp, việc bật tính năng thực thi mã có thể dẫn đến sự hồi quy ở các khu vực khác về đầu ra của mô hình (ví dụ: viết một câu chuyện).
- Có một số khác biệt về khả năng sử dụng mã của các mô hình khác nhau thực thi thành công. Gemini 1.5 Pro hoạt động hiệu quả nhất mô hình phân bổ, dựa trên thử nghiệm của chúng tôi.