Gemini و سایر مدلهای هوش مصنوعی مولد ورودی و خروجی را با یک دانهبندی به نام توکن پردازش میکنند.
این راهنما نحوه دریافت پنجرههای زمینه مدلهای خاص و همچنین نحوه شمارش نشانهها برای موارد استفاده مانند ورودی متن، چت، ورودی چندوجهی و دستورالعملها و ابزارهای سیستم را توضیح میدهد.
در مورد توکن ها
توکن ها می توانند نویسه های تکی مانند z
یا کلمات کامل مانند cat
باشند. کلمات طولانی به چندین نشانه تقسیم می شوند. مجموعه تمام نشانه های استفاده شده توسط مدل، واژگان نامیده می شود، و فرآیند تقسیم متن به نشانه ها، توکن سازی نامیده می شود.
برای مدل های Gemini، یک توکن معادل حدود 4 کاراکتر است. 100 توکن برابر با 60-80 کلمه انگلیسی است.
وقتی صورتحساب فعال است، هزینه تماس با Gemini API تا حدی با تعداد نشانههای ورودی و خروجی تعیین میشود، بنابراین دانستن نحوه شمارش نشانهها میتواند مفید باشد.