Nén câu lệnh

Ý nghĩa

Prompt Compress là một công cụ được thiết kế để tối ưu hoá các lời nhắc LLM nhằm đạt được hiệu quả và tiết kiệm chi phí. Chức năng chính của hàm này là giảm số lượng mã thông báo trong câu lệnh, đồng thời giữ nguyên ý nghĩa và ý định cốt lõi của câu lệnh. Điều này rất quan trọng vì nhiều mô hình AI tính phí dựa trên mức sử dụng mã thông báo. Công cụ này nhận một câu lệnh và cho phép người dùng chỉ định quy trình tối ưu hoá bằng các kỹ thuật tốt nhất trong ngành để giảm số lượng mã thông báo trong khi vẫn giữ nguyên ý nghĩa của câu lệnh. Sau đó, công cụ này sẽ kiểm tra tính hợp lệ của câu trả lời LLM cho câu lệnh đã nén và cung cấp thông tin phân tích về câu trả lời đó khi so sánh với dữ liệu đầu vào ban đầu. Tính năng nén câu lệnh sử dụng Gemini ở mọi giai đoạn khi câu lệnh đầu vào được chuyển đổi để thu thập các câu trả lời, số lượng mã thông báo, sau đó thực hiện phân tích.