프롬프트 압축

기능

Prompt Compress는 효율성과 비용 효율성을 위해 LLM 프롬프트를 최적화하도록 설계된 도구입니다. 주요 기능은 프롬프트의 핵심 의미와 의도를 유지하면서 토큰 수를 줄이는 것입니다. 많은 AI 모델이 토큰 사용량에 따라 요금을 청구하므로 이 작업은 중요합니다. 프롬프트를 사용하고 사용자가 프롬프트의 의미를 보존하면서 토큰을 줄이기 위한 업계 최고의 기법으로 최적화 파이프라인을 지정할 수 있도록 합니다. 그런 다음 압축된 프롬프트에 대한 LLM 응답의 유효성을 검사하고 원래 입력과 비교한 분석을 제공합니다. Prompt Compress는 응답, 토큰 수를 수집하고 분석을 실행하기 위해 입력 프롬프트가 변환될 때마다 모든 단계에서 Gemini를 사용합니다.