این آموزش به شما کمک می کند تا با استفاده از Python SDK یا REST API با استفاده از curl شروع به کار با سرویس تنظیم API Gemini کنید. مثالها نحوه تنظیم مدل متنی در پشت سرویس تولید متن Gemini API را نشان میدهند.
مشاهده در ai.google.dev | یک نوت بوک کولب را امتحان کنید | مشاهده نوت بوک در GitHub |
محدودیت ها
قبل از تنظیم یک مدل، باید از محدودیت های زیر آگاه باشید:
تنظیم دقیق مجموعه داده ها
مجموعه داده های تنظیم دقیق برای Gemini 1.5 Flash دارای محدودیت های زیر است:
- حداکثر اندازه ورودی در هر نمونه 40000 کاراکتر است.
- حداکثر اندازه خروجی در هر نمونه 5000 کاراکتر است.
- فقط نمونه های جفت ورودی-خروجی پشتیبانی می شوند. مکالمات چند نوبتی به سبک چت پشتیبانی نمی شود.
مدل های تیون شده
مدل های تنظیم شده دارای محدودیت های زیر هستند:
- محدودیت ورودی یک مدل فلش جمینی 1.5 تنظیم شده 40000 کاراکتر است.
- حالت JSON با مدل های تنظیم شده پشتیبانی نمی شود.
- فقط ورودی متن پشتیبانی می شود.
قبل از شروع: پروژه و کلید API خود را تنظیم کنید
قبل از فراخوانی Gemini API، باید پروژه خود را راه اندازی کرده و کلید API خود را پیکربندی کنید.
کلید API خود را دریافت و ایمن کنید
برای فراخوانی Gemini API به یک کلید API نیاز دارید. اگر قبلاً یکی ندارید، یک کلید در Google AI Studio ایجاد کنید.
اکیداً توصیه می شود که یک کلید API را در سیستم کنترل نسخه خود بررسی نکنید .
شما باید کلید API خود را در یک فروشگاه محرمانه مانند Google Cloud Secret Manager ذخیره کنید.
این آموزش فرض می کند که شما به کلید API خود به عنوان یک متغیر محیطی دسترسی دارید.
بسته SDK را نصب کنید و کلید API خود را پیکربندی کنید
Python SDK برای Gemini API در بسته google-generativeai
موجود است.
وابستگی را با استفاده از pip نصب کنید:
pip install -U google-generativeai
بسته را وارد کنید و سرویس را با کلید API خود پیکربندی کنید:
import os import google.generativeai as genai genai.configure(api_key=os.environ['API_KEY'])
مدل های تنظیم شده را لیست کنید
می توانید مدل های تنظیم شده موجود خود را با روش tunedModels.list
بررسی کنید.
import google.generativeai as genai
for model_info in genai.list_tuned_models():
print(model_info.name)
یک مدل تنظیم شده ایجاد کنید
برای ایجاد یک مدل تنظیم شده، باید مجموعه داده خود را به مدل در متد tunedModels.create
ارسال کنید.
برای این مثال، شما یک مدل را برای تولید عدد بعدی در دنباله تنظیم می کنید. به عنوان مثال، اگر ورودی 1
باشد، مدل باید خروجی 2
داشته باشد. اگر ورودی one hundred
باشد، خروجی باید one hundred one
باشد.
import google.generativeai as genai
import time
base_model = "models/gemini-1.5-flash-001-tuning"
training_data = [
{"text_input": "1", "output": "2"},
# ... more examples ...
# ...
{"text_input": "seven", "output": "eight"},
]
operation = genai.create_tuned_model(
# You can use a tuned model here too. Set `source_model="tunedModels/..."`
display_name="increment",
source_model=base_model,
epoch_count=20,
batch_size=4,
learning_rate=0.001,
training_data=training_data,
)
for status in operation.wait_bar():
time.sleep(10)
result = operation.result()
print(result)
# # You can plot the loss curve with:
# snapshots = pd.DataFrame(result.tuning_task.snapshots)
# sns.lineplot(data=snapshots, x='epoch', y='mean_loss')
model = genai.GenerativeModel(model_name=result.name)
result = model.generate_content("III")
print(result.text) # IV
مقادیر بهینه برای تعداد دوره، اندازه دسته و نرخ یادگیری به مجموعه داده شما و سایر محدودیتهای مورد استفاده شما بستگی دارد. برای کسب اطلاعات بیشتر در مورد این مقادیر، تنظیمات تنظیم پیشرفته و Hyperparameters را ببینید.
از آنجایی که تنظیم یک مدل می تواند زمان قابل توجهی داشته باشد، این API منتظر تکمیل تنظیم نمی ماند. در عوض، یک شی google.api_core.operation.Operation
را برمی گرداند که به شما امکان می دهد وضعیت کار تنظیم را بررسی کنید یا منتظر بمانید تا کامل شود و نتیجه را بررسی کنید.
مدل تیون شده شما فوراً به لیست مدل های تنظیم شده اضافه می شود، اما حالت آن بر روی "ایجاد" تنظیم می شود در حالی که مدل تنظیم می شود.
پیشرفت تنظیم را بررسی کنید
شما می توانید با استفاده از روش wait_bar()
پیشرفت عملیات تنظیم را بررسی کنید:
for status in operation.wait_bar():
time.sleep(10)
همچنین میتوانید از operation.metadata
برای بررسی تعداد کل مراحل تنظیم و operation.update()
برای بازخوانی وضعیت عملیات استفاده کنید.
با استفاده از روش cancel()
می توانید کار تنظیم خود را هر زمان که بخواهید لغو کنید.
operation.cancel()
مدل را امتحان کنید
می توانید از روش tunedModels.generateContent
استفاده کنید و نام مدل تنظیم شده را برای تست عملکرد آن مشخص کنید.
import google.generativeai as genai
model = genai.GenerativeModel(model_name="tunedModels/my-increment-model")
result = model.generate_content("III")
print(result.text) # "IV"
توضیحات را به روز کنید
با استفاده از روش genai.update_tuned_model
می توانید توضیحات مدل تنظیم شده خود را هر زمان که بخواهید به روز کنید.
genai.update_tuned_model('tunedModels/my-increment-model', {"description":"This is my model."})
مدل را حذف کنید
میتوانید با حذف مدلهایی که دیگر نیازی ندارید، فهرست مدلهای تنظیمشده خود را پاک کنید. برای حذف یک مدل از روش tunedModels.delete
استفاده کنید. اگر کار تنظیم را لغو کردید، ممکن است بخواهید آنها را حذف کنید زیرا ممکن است عملکرد آنها غیرقابل پیشبینی باشد.
genai.delete_tuned_model("tunedModels/my-increment-model")