فشرده سازی سریع

کاری که انجام می دهد

Prompt Compress ابزاری است که برای بهینه سازی اعلان های LLM برای کارایی و مقرون به صرفه بودن طراحی شده است. عملکرد اصلی آن کاهش تعداد نشانه ها در یک اعلان است و در عین حال معنی و هدف اصلی آن را حفظ می کند. این مهم است زیرا بسیاری از مدل‌های هوش مصنوعی بر اساس استفاده از توکن شارژ می‌شوند. یک اعلان می‌گیرد و به کاربران اجازه می‌دهد خط لوله بهینه‌سازی را با بهترین تکنیک‌های صنعتی برای کاهش نشانه‌ها و در عین حال حفظ معنای اعلان مشخص کنند. سپس sanity پاسخ LLM به اعلان فشرده شده را بررسی می کند و در مقایسه با ورودی اصلی تجزیه و تحلیلی از آن ارائه می دهد. Prompt Compres در هر مرحله از Gemini استفاده می‌کند زیرا اعلان ورودی برای جمع‌آوری پاسخ‌ها، شمارش نشانه‌ها و سپس انجام تجزیه و تحلیل تبدیل می‌شود.