提示压缩

作用

Prompt Compress 是一款旨在优化 LLM 提示以提高效率和成本效益的工具。其主要功能是减少问题中的令牌数量，同时保留其核心含义和意图。这一点很重要，因为许多 AI 模型都是根据令牌用量收费的。它接受一个提示，并允许用户使用业界最佳技术指定优化流水线，以减少令牌数量，同时保留提示的含义。然后，它会对 LLM 对压缩提示的回答进行完整性检查，并提供与原始输入进行比较的分析。提示压缩工具会在每个阶段使用 Gemini，因为输入提示会经过转换，以收集回答、令牌数，然后执行分析。