提示壓縮

用途

Prompt Compress 是專為提升 LLM 提示效率和成本效益而設計的工具。其主要功能是減少提示中的符記數量，同時保留核心意義和意圖。這點很重要，因為許多 AI 模型都是根據權杖使用量收費。這項功能會擷取提示，讓使用者指定最佳化管道，並採用業界最佳技巧來減少符記，同時保留提示的意義。接著，系統會對 LLM 對壓縮提示的回應進行健全性檢查，並提供與原始輸入內容的比較分析。提示壓縮功能會在每個階段使用 Gemini，因為輸入提示會經過轉換，以便收集回覆和符記數，然後執行分析。