Gemini model ailesinin en küçük sürümü olan Gemini Nano, Google Pixel 8 Pro ve Samsung S24 Serisi ile başlayan uygun Android cihazlarda cihaz üzerinde çalıştırılabilir.
Gemini Nano modelini Android'de yürütmek üzere Android için Google AI Edge SDK'sını kullanmanız gerekir. Bu SDK, aşağıdaki işlemleri gerçekleştirmek için API'ler sağlar:
- Temel Android destekli cihazın desteklenip desteklenmediğini belirleyin.
- Gemini Nano modeline erişim elde edin.
- Güvenlik ayarlarını düzenleyin.
- Yüksek performansta çıkarım çalıştırın ve yedekler uygulayın.
- İsteğe bağlı olarak, kullanım alanınız için modelin performansını iyileştirmek amacıyla bir LoRA ince ayar bloğu sağlayın.
Gemini Nano'ya erişim API'leri, metinden metne yöntemini desteklemektedir. Gelecekte daha fazla özellik kullanıma sunulacaktır.
Cihaz üzerinde yürütmenin avantajları
Cihaz üzerinde yürütme aşağıdakileri etkinleştirir:
- Hassas verilerin yerel olarak işlenmesi: Verilerin yerel olarak işlenmesi, kullanıcı verilerinin buluta gönderilmesini önlemenize yardımcı olabilir. Bu, uçtan uca şifrelemeli mesajlaşma uygulamaları gibi hassas verileri işleyen uygulamalar için önemlidir.
- Çevrimdışı erişim: Kullanıcılar, internet bağlantısı olmasa bile yapay zeka özelliklerine erişebilir. Bu, çevrimdışı veya değişken bağlantıyla çalışması gereken uygulamalar için kullanışlıdır.
- Maliyet tasarrufu: Yürütmeyi tüketici donanımına aktararak çıkarım maliyetlerini azaltabilirsiniz. Bu sayede, sık kullanılan kullanıcı işlemleri akışı için önemli miktarda tasarruf sağlanabilir.
Gemini'ın cihazda çalıştırılması birçok avantaj sağlar. Ancak daha büyük Gemini modelleri gerektiren ve çok çeşitli cihazları destekleyen kullanım alanlarında Gemini'a sunucuda erişmek için Gemini API'yi kullanmak isteyebilirsiniz. Bunu arka uç entegrasyonuyla (Python, Go, Node.js veya REST ile) ya da yeni Android için Google AI istemci SDK'sı aracılığıyla doğrudan Android uygulamanızdan yapabilirsiniz.
İşleyiş şekli
Gemini Nano'nun cihazda çalıştırılması, Android 14'te kullanıma sunulan ve cihaz üzerinde yürütme için temel modellere erişim sağlayan, sistem düzeyindeki yeni bir özellik olan Android AICore tarafından desteklenmektedir. Temel modeller AICore ile önceden yüklenir, bu sayede bunları uygulamanızın içinde indirmeniz veya dağıtmanız gerekmez. LoRa'yı kullanarak bu modellerde ince ayar yapabilirsiniz. Android AICore artık Google Pixel 8 Pro ve Samsung S24 Serisi cihazlarda üretimde kullanılabiliyor ve zaten Google uygulamalarındaki yenilikçi özellikleri destekliyor.
Daha fazla bilgi için Android AICore'a bakın.
Sırada ne var?
Cihazınızda Gemini Nano'yu uygulamanızla birlikte kullanmaya başlamak için Android için Google AI Edge SDK'sının Erken Erişim Önizlemesi'ne başvurun.
Android uygulamanızda Google'ın sunucularında Gemini Pro çıkarımından nasıl yararlanacağınızı öğrenmek için Android için Google AI istemci SDK'sı hızlı başlangıç kılavuzunu okuyun.