Model ayarlamaya giriş

Az sayıda çekim isteme gibi hızlı tasarım stratejileri, her zaman ihtiyacınız olan sonuçları vermeyebilir. Bir modelin belirli görevlerde performansını iyileştirmek veya talimatlar yeterli olmadığında ve istediğiniz çıktıları gösteren bir dizi örneğiniz olduğunda modelin belirli çıkış gereksinimlerine uymasına yardımcı olmak için model ayarlamayı kullanın.

Bu sayfada, Gemini API metin hizmetinin arkasındaki metin modelini ayarlama konusunda yol gösterici bilgiler sağlanmaktadır.

Model ayarının işleyiş şekli

Model ayarının amacı, modelin performansını belirli bir görev için daha da iyileştirmektir. Model ayarlaması, modele birçok görev örneği içeren bir eğitim veri kümesi sağlayarak çalışır. Özel görevler için modeli az sayıda örnekte ince ayar yaparak model performansında önemli iyileştirmeler elde edebilirsiniz.

Eğitim verileriniz, istem girişleri ve beklenen yanıt çıkışlarıyla örnek olarak yapılandırılmalıdır. Ayrıca, doğrudan Google AI Studio'da örnek verileri kullanarak modelleri ayarlayabilirsiniz. Amaç, modele söz konusu davranış veya görevle ilgili birçok örnek vererek modele istenen davranışı veya görevi taklit etmeyi öğretmektir.

Bir ince ayar işi çalıştırdığınızda model, istenen görevi gerçekleştirmek veya istenen davranışı öğrenmek için gerekli bilgileri kodlamasına yardımcı olan ek parametreler öğrenir. Bu parametreler daha sonra çıkarım zamanında kullanılabilir. Ayarlama işinin sonucu, yeni öğrenilen parametreler ile orijinal modelin etkili bir şekilde bir kombinasyonu olan yeni model olur.

Desteklenen modeller

Aşağıdaki temel modelleri, model ayarlamayı destekler. Yalnızca tek dönüşlü metin tamamlama desteklenir.

  • Gemini 1.0 Pro
  • text-bison-001

Model ayarlama iş akışı

Model ayarlama iş akışı aşağıdaki gibidir:

  1. Veri kümenizi hazırlayın.
  2. Google AI Studio kullanıyorsanız veri kümesini içe aktarın.
  3. İnce ayar işi başlatın.

Model ayarı tamamlandıktan sonra, hassaslaştırılmış modelinizin adı görüntülenir. Ayrıca, Google AI Studio'da yeni bir istem oluştururken kullanılacak model olarak bunu seçebilirsiniz.

Veri kümenizi hazırlama

İnce ayar yapmaya başlamadan önce modeli ayarlayacağınız bir veri kümesine ihtiyacınız vardır. En iyi performans için veri kümesindeki örnekler yüksek kaliteli ve çeşitli olmalı, gerçek girdi ve çıkışları temsil etmelidir.

Biçim

Veri kümenize eklenen örnekler, beklenen üretim trafiğinizle eşleşmelidir. Veri kümeniz belirli bir biçimlendirme, anahtar kelime, talimat veya bilgiler içeriyorsa üretim verileri de aynı şekilde biçimlendirilmeli ve aynı talimatları içermelidir.

Örneğin, veri kümenizdeki örneklerde "question:" ve "context:" bulunuyorsa üretim trafiği de veri kümesi örneklerinde göründüğü sırayla "question:" ve "context:" içerecek şekilde biçimlendirilmelidir. Bağlamı hariç tutarsanız tam soru veri kümesindeki bir örnekte olsa bile model, kalıbı tanıyamaz.

Veri kümenizdeki her örneğe bir istem veya önsöz eklemek de hassaslaştırılmış modelin performansını artırmanıza yardımcı olabilir. Veri kümenizde bulunan bir istem veya giriş, çıkarım sırasında hassaslaştırılmış model istemine de dahil edilmelidir.

Eğitim verisi boyutu

Yalnızca 20 örnekle bir modelde ince ayar yapabilirsiniz. Ek veriler, genellikle yanıtların kalitesini artırır. Uygulamanıza bağlı olarak 100 ile 500 arasında örnek hedeflemelisiniz. Aşağıdaki tabloda, yaygın olarak kullanılan çeşitli görevler için bir metin modelinde ince ayar yapmak üzere önerilen veri kümesi boyutları gösterilmektedir:

Görev Veri kümesindeki örnek sayısı
Sınıflandırma 100+
Özetleme 100-500+
Doküman arama 100+

Ayarlama veri kümesini yükleyin

Veriler, API kullanılarak satır içi olarak veya Google AI Studio'ya yüklenen dosyalar üzerinden aktarılır.

Bir dosyadan veri içe aktarmak için İçe aktar düğmesini kullanın veya ince ayar veri kümeniz olarak içe aktarılacak örnekler içeren yapılandırılmış bir istem seçin.

İstemci kitaplığı

İstemci kitaplığını kullanmak için createTunedModel çağrısında veri dosyasını sağlayın. Dosya boyutu için üst sınır 4 MB'tır. Başlamak için Python ile ince ayarlar için hızlı başlangıç sayfasını inceleyin.

Kıvırma

Curl kullanarak REST API'yi çağırmak için training_data bağımsız değişkenine JSON biçiminde eğitim örnekleri sağlayın. Başlamak için Curl ile ince ayar hızlı başlangıç kılavuzunu inceleyin.

Gelişmiş ince ayar ayarları

İnce ayar işi oluştururken aşağıdaki gelişmiş ayarları belirtebilirsiniz:

  • Dönemler: Her bir örneğin bir kez işlendiği şekilde, eğitim kümesinin tamamı boyunca kullanılan tam eğitim kullanımıdır.
  • Grup boyutu: Tek bir eğitim iterasyonunda kullanılan örnek grubu. Grup boyutu, gruptaki örnek sayısını belirler.
  • Öğrenme hızı: Algoritmaya her iterasyonda model parametrelerinin ne kadar güçlü ayarlanması gerektiğini bildiren bir kayan noktalı sayıdır. Örneğin, 0,3'lük bir öğrenme hızı, ağırlıkları ve ön yargıları 0,1'lik öğrenme hızından üç kat daha etkili şekilde ayarlar. Yüksek ve düşük öğrenme oranlarının kendi benzersiz dengeleri vardır ve kullanım alanınıza göre ayarlanmalıdır.
  • Öğrenme hızı çarpanı: Ücret çarpanı, modelin orijinal öğrenme hızını değiştirir. 1 değeri, modelin orijinal öğrenme hızını kullanır. 1'den büyük değerler öğrenme hızını artırırken 1 ile 0 arasındaki değerler ise öğrenme hızını düşürür.

Aşağıdaki tabloda, bir temel modeli ayarlamak için önerilen yapılandırmalar gösterilmektedir:

Hiperparametre Varsayılan değer Önerilen düzenlemeler
Dönem 5 Kayıp, 5 dönemden önce platoya ulaşmaya başlarsa daha küçük bir değer kullanın.
Kayb yakınsa ve plato gibi görünmüyorsa daha yüksek bir değer kullanın.
Grup boyutu 4
Öğrenme hızı 0,001 Daha küçük veri kümeleri için daha küçük bir değer kullanın.

Kayıp eğrisi, her dönemden sonraki eğitim örneklerinde modelin tahmininin ideal tahminlerden ne kadar saptığını gösterir. İdeal olarak, antrenmanı platodan hemen önce, eğrinin en düşük noktasında bırakmak istersiniz. Örneğin, aşağıdaki grafik, 4-6. aşamalarda kayıp eğrisi platosunu göstermektedir. Bu, Epoch parametresini 4 olarak ayarlayıp aynı performansı alabileceğiniz anlamına gelir.

Kayıp eğrisi

İnce ayar işinin durumunu kontrol etme

Ayarlama işinizin durumunu Google AI Studio kullanıcı arayüzündeki Kitaplığım sekmesinin altından veya Gemini API'deki hassaslaştırılmış modelin metadata özelliğini kullanarak kontrol edebilirsiniz.

Hataları giderme

Bu bölümde, hassaslaştırılmış modelinizi oluştururken karşılaşabileceğiniz hataları nasıl çözeceğinize dair ipuçları yer almaktadır.

Kimlik doğrulama

API'yi ve istemci kitaplığını kullanarak ince ayar yapmak için kullanıcı kimlik doğrulaması gerekir. Yalnızca API anahtarı yeterli değildir. Bir 'PermissionDenied: 403 Request had insufficient authentication scopes' hatası görürseniz kullanıcı kimlik doğrulamasını ayarlamanız gerekir.

Python için OAuth kimlik bilgilerini yapılandırmak için OAuth kurulum eğiticisine bakın.

İptal edilen modeller

Bir model ayarlama işini iş tamamlanmadan önce istediğiniz zaman iptal edebilirsiniz. Bununla birlikte, özellikle ayarlama işi eğitimin başlarında iptal edildiğinde iptal edilen bir modelin çıkarım performansı tahmin edilemez. Eğitimi daha önceki bir dönemde durdurmak istediğiniz için iptal ettiyseniz yeni bir ayarlama işi oluşturmanız ve dönemi daha düşük bir değere ayarlamanız gerekir.

Sırada ne var?