Birkaç denemelik istem gibi istem tasarım stratejileri, her zaman ihtiyacınız olan sonuçları vermeyebilir. İnce ayar, talimatlar yeterli olmadığında modelinizin belirli görevlerdeki performansını iyileştirebilen veya modelin belirli çıkış gereksinimlerine uymasına yardımcı olabilecek bir süreçtir. Elinizde istediğiniz çıktıları gösteren bir dizi örnek bulunur.
Bu sayfada, Gemini API metin hizmetinin arkasındaki metin modeline ince ayar yapma konusunda yol gösterici bilgiler verilmektedir.
İnce ayarların işleyiş şekli
İnce ayarın amacı, belirli göreviniz için modelin performansını daha da iyileştirmektir. İnce ayar, modele görevin birçok örneğini içeren bir eğitim veri kümesi sağlayarak işe yarar. Niş görevlerde, az sayıda örnek üzerinde modeli ayarlayarak model performansında önemli iyileştirmeler elde edebilirsiniz.
Eğitim verileriniz, istem girişleri ve beklenen yanıt çıkışlarıyla örnek olarak yapılandırılmalıdır. Doğrudan Google AI Studio'da örnek verileri kullanarak da modelleri ayarlayabilirsiniz. Amaç, modele istenen davranışı veya görevi taklit eden çok sayıda örnek vererek öğretmektir.
Bir ince ayar işi çalıştırdığınızda model, istenen görevi gerçekleştirmek veya istenen davranışı öğrenmek için gerekli bilgileri kodlamaya yardımcı olan ek parametreler öğrenir. Bu parametreler, daha sonra çıkarım zamanında kullanılabilir. Ayarlama işinin sonucu, yeni öğrenilen parametrelerle orijinal modelin etkin bir şekilde kombinasyonu olan yeni bir modeldir.
Veri kümenizi hazırlama
İnce ayar yapmaya başlamadan önce modeli ayarlarken kullanacağınız bir veri kümesine ihtiyacınız vardır. En iyi performansı elde etmek için veri kümesindeki örneklerin yüksek kaliteli ve çeşitli olması, ayrıca gerçek giriş ve çıkışları temsil etmesi gerekir.
Biçim
Veri kümenize dahil edilen örnekler, beklenen üretim trafiğinizle eşleşmelidir. Veri kümeniz belirli biçimlendirme, anahtar kelimeler, talimatlar veya bilgiler içeriyorsa üretim verileri de aynı şekilde biçimlendirilmeli ve aynı talimatları içermelidir.
Örneğin, veri kümenizdeki örnekler bir "question:" ve bir "context:" içeriyorsa üretim trafiğinin de bir "question:" ve bir "context:" içerecek şekilde biçimlendirilmesi, veri kümesi örneklerinde göründükleri sırayla yapılmalıdır. Bağlamı hariç tutarsanız tam soru veri kümesindeki bir örnekte olsa bile model, kalıbı tanıyamaz.
Veri kümenizdeki her örneğin bir istem veya önsöz eklemek de hassaslaştırılmış modelin performansını iyileştirmeye yardımcı olabilir. Veri kümenize bir istem veya önsöz dahil edilmişse bunların çıkarım sırasında hassaslaştırılmış modelin istemine de dahil edilmesi gerektiğini unutmayın.
Eğitim verileri boyutu
20 örnek kadar az sayıda örnek kullanarak bir modelde ince ayar yapabilirsiniz. Ek veriler genellikle yanıtların kalitesini iyileştirir. Uygulamanıza bağlı olarak 100 ile 500 arasında örnek hedeflemelisiniz. Aşağıdaki tabloda, çeşitli yaygın görevler için bir metin modeline ince ayar yapmak amacıyla önerilen veri kümesi boyutları gösterilmektedir:
| Görev | Veri kümesindeki örnek sayısı |
|---|---|
| Sınıflandırma | 100+ |
| Özetleme | 100-500+ |
| Doküman arama | 100+ |
Ayarlama veri kümenizi yükleme
Veriler, API kullanılarak veya Google AI Studio'ya yüklenen dosyalar aracılığıyla satır içi olarak iletilir.
İçe aktar düğmesini tıklayın ve iletişim kutusundaki talimatları uygulayarak verileri bir dosyadan içe aktarın veya ayar veri kümeniz olarak içe aktarılacak örnekleri içeren yapılandırılmış bir istem seçin.
İstemci kitaplığı
İstemci kitaplığını kullanmak için createTunedModel çağrısında veri dosyasını sağlayın. Dosya boyutu sınırı 4 MB'tır. Başlamak için Python ile ince ayar hızlı başlangıç kılavuzunu inceleyin.
cURL
cURL kullanarak REST API'yi çağırmak için training_data bağımsız değişkenine JSON biçiminde eğitim örnekleri sağlayın. Başlamak için cURL ile ayarlama hızlı başlangıç kılavuzunu inceleyin.
Gelişmiş ince ayar ayarları
Ayarlama işi oluştururken aşağıdaki gelişmiş ayarları belirtebilirsiniz:
- Dönemler: Her örneğin bir kez işlendiği şekilde, tüm eğitim setini kapsayan tam bir eğitim geçişi.
- Grup boyutu: Bir eğitim iterlemesinde kullanılan örnek kümesi. Grup boyutu, bir gruptaki örnek sayısını belirler.
- Öğrenme hızı: Algoritmaya, her iterasyonda model parametrelerini ne kadar güçlü bir şekilde ayarlayacağını bildiren kayan nokta sayısıdır. Örneğin, 0,3 olan bir öğrenme hızı, ağırlıkları ve ön yargıları 0,1'lik bir öğrenme hızına göre üç kat daha güçlü bir şekilde ayarlar. Yüksek ve düşük öğrenme oranlarının kendine özgü dengeleri vardır ve kullanım alanınıza göre ayarlanmalıdır.
- Öğrenme oranı çarpanı: Ücret çarpanı, modelin orijinal öğrenme hızını değiştirir. 1 değeri, modelin orijinal öğrenme hızını kullanır. 1'den büyük değerler öğrenme hızını artırır, 1 ile 0 arasındaki değerler ise öğrenme hızını düşürür.
Önerilen yapılandırmalar
Aşağıdaki tabloda, bir temel modelinin ince ayarı için önerilen yapılandırmalar gösterilmektedir:
| Hiperparametre | Varsayılan değer | Önerilen ayarlamalar |
|---|---|---|
| Dönem | 5 |
Kayıp, 5 dönemden önce platoya başlarsa daha küçük bir değer kullanın. Kayıp yakınlaşıyorsa ve durağanlaşmıyorsa daha yüksek bir değer kullanın.
|
| Grup boyutu | 4 | |
| Öğrenme oranı | 0,001 | Daha küçük veri kümeleri için daha küçük bir değer kullanın. |
Kayıp eğrisi, modelin tahmininin her dönemden sonra eğitim örneklerindeki ideal tahminlerden ne kadar saptığını gösterir. İdeal olarak, eğrinin en alt noktasında
çalışmayı durdurmanız gerekir. Örneğin, aşağıdaki grafikte 4-6. dönem civarındaki kayıp eğrisinde durgunluk gösterilmektedir. Bu da Epoch parametresini 4 olarak ayarlayıp aynı performansı elde edebileceğiniz anlamına gelir.
Ayarlama işinin durumunu kontrol etme
Ayarlama işinizin durumunu Google AI Studio'daki Kitaplığım sekmesinden veya Gemini API'de hassaslaştırılmış modelin metadata özelliğini kullanarak kontrol edebilirsiniz.
Hataları giderme
Bu bölümde, hassaslaştırılmış modelinizi oluştururken karşılaşabileceğiniz hataların çözümüyle ilgili ipuçları yer alır.
Kimlik doğrulama
API ve istemci kitaplığını kullanarak ince ayar yapmak için kullanıcı kimlik doğrulaması gerekir. API anahtarı tek başına yeterli değildir. 'PermissionDenied: 403 Request had
insufficient authentication scopes' hatası görüyorsanız kullanıcı kimlik doğrulamasını ayarlamanız gerekir.
Python için OAuth kimlik bilgilerini yapılandırmak üzere OAuth kurulum eğitimine bakın.
İptal edilen modeller
İnce ayar işini, iş tamamlanmadan önce istediğiniz zaman iptal edebilirsiniz. Bununla birlikte, özellikle ayar işi eğitimin başlarında iptal edilirse iptal edilen bir modelin çıkarım performansı tahmin edilemez. Eğitimi daha önceki bir dönemde durdurmak istediğiniz için iptal ettiyseniz yeni bir ayarlama işi oluşturmanız ve dönemi daha düşük bir değere ayarlamanız gerekir.
Sırada ne var?
- Sorumlu AI en iyi uygulamaları hakkında bilgi edinin.
- Python ile ayarlama hızlı başlangıç kılavuzu veya cURL ile ayarlama hızlı başlangıç kılavuzu ile başlayın.