Gemini model ailesinin en küçük sürümü olan Gemini Nano, Google Pixel 8 Pro ile başlayan uygun Android cihazlarda cihaz üzerinde Samsung S24 Serisi.
Android'de Gemini Nano modelini yürütmek için Android için Google AI Edge SDK'sı şunları yapmak için API'ler sağlar:
- Temel Android destekli cihazın desteklenip desteklenmediğini belirleme.
- Gemini Nano modeline erişim elde edin.
- Güvenlik ayarlarını ayarlayın.
- Çıkarımları yüksek performansta çalıştırın ve yedekleri uygulayın.
- İsteğe bağlı olarak, performansı artırmak için bir LoRA ince ayar bloğu modeliniz olur.
Gemini Nano'ya erişime yönelik API'ler, daha fazla özellik içeren metinden metne modunu destekler geliştirmeyi öğreneceksiniz.
Cihaz üzerinde yürütmenin avantajları
Cihaz üzerinde yürütme aşağıdakilere olanak tanır:
- Hassas verilerin yerel olarak işlenmesi: Verileri yerel olarak işlemek size kullanıcı verilerinin buluta gönderilmesini önleyebilir. Bu, şu tür uygulamalar için önemlidir: Uçtan uca şifreleme uygulanmış mesajlaşma uygulamaları gibi hassas veriler.
- Çevrimdışı erişim: Kullanıcılar etkin bir bağlantı olmadığında bile yapay zeka özelliklerine erişebilir. internet bağlantısı. Bu, çalışması gereken uygulamalar için veya değişken bağlantıyla kullanılabilir.
- Maliyet tasarrufu: Yürütmeyi şuraya yükleyerek çıkarım maliyetlerini azaltabilirsiniz. tüketici donanımı sağlamak. Bu şekilde, sık kullandığınız iş ortaklarının işlemleri olabilir.
Gemini'ı cihaz üzerinde yürütmenin pek çok avantajı vardır: Ancak, özellikle de daha büyük Gemini modellerini gerektirir ve çok çeşitli cihazları desteklemek için sunucuda Gemini'a erişmek için Gemini API'yi kullanmak istiyorsanız. Siz bunu arka uç entegrasyonuyla (Python ve Go, Node.js veya REST) veya doğrudan kullanarak Android uygulamanızı Android için Google AI istemci SDK'sı.
İşleyiş şekli
Gemini Nano'nun cihaz üzerinde yürütme işlemi, yeni bir Google uygulaması olan Android AICore cihaz üzerinde temel modellere erişim sağlayan sistem düzeyinde özellik yürütme sürecidir. Temel modeller AICore sayesinde, bunları uygulamanızın içinde indirmeniz veya dağıtmanız gerekmez. Siz bu modellerde LoRa'yı kullanarak satışa dönük görevler için ince ayar yapabilir. Android AICore, artık Google Pixel 8 Pro ve Samsung S24 Series cihazlarda üretim aşamasında ve Google uygulamalarında halihazırda yenilikçi özellikleri destekliyor.
Daha fazla bilgi için Android AICore'a bakın.
Sırada ne var?
- Google'ın sunucularında Gemini Pro çıkarımından nasıl yararlanacağınızı öğrenmek için Android uygulamanızda hızlı başlangıç Android için Google AI istemci SDK'sı.