Gemini Nano, versioni më i vogël i familjes së modeleve Gemini, mund të ekzekutohet në pajisje në pajisjet e afta Android duke filluar me Google Pixel 8 Pro dhe Seritë Samsung S24.
Për të ekzekutuar modelin Gemini Nano në Android, duhet të përdorni Google AI Edge SDK për Android, i cili ofron API për:
- Përcaktoni nëse mbështetet pajisja themelore e pajisur me Android.
- Merrni akses në modelin Gemini Nano.
- Rregulloni cilësimet e sigurisë.
- Ekzekutoni konkluzionet me performancë të lartë dhe zbatoni rikthime.
- Opsionale, siguroni një bllok akordues LoRA për të përmirësuar performancën e modelit për rastin tuaj të përdorimit.
API-të për të hyrë në Gemini Nano mbështesin modalitetin tekst në tekst, me më shumë modalitete që do të vijnë në të ardhmen.
Përfitimet e ekzekutimit në pajisje
Ekzekutimi në pajisje mundëson sa vijon:
- Përpunimi lokal i të dhënave të ndjeshme : Përpunimi i të dhënave në nivel lokal mund t'ju ndihmojë të shmangni dërgimin e të dhënave të përdoruesit në cloud. Kjo është e rëndësishme për aplikacionet që trajtojnë të dhëna të ndjeshme, si p.sh. aplikacionet e mesazheve me enkriptim nga skaji në skaj.
- Qasje jashtë linje : Përdoruesit mund të kenë akses në veçoritë e AI edhe kur nuk ka lidhje interneti. Kjo është e dobishme për aplikacionet që duhet të punojnë jashtë linje ose me lidhje të ndryshueshme.
- Kursimet e kostos : Ju mund të zvogëloni kostot e konkluzionit duke shkarkuar ekzekutimin në pajisjen e konsumatorit. Kjo mund të prodhojë kursime të konsiderueshme për flukset e përdoruesve të përdorur shpesh.
Ekzekutimi në pajisje i Binjakëve ka shumë përfitime; megjithatë, për rastet e përdorimit që kërkojnë modele më të mëdha Gemini dhe për të mbështetur një gamë të gjerë pajisjesh, mund të mendoni të përdorni Gemini API për të hyrë në Gemini në server. Ju mund ta bëni këtë ose përmes integrimit të backend (me Python , Go , Node.js ose REST ) ose direkt nga aplikacioni juaj Android përmes SDK-së së re të klientit të Google AI për Android .
Si funksionon
Ekzekutimi në pajisje i Gemini Nano mundësohet nga Android AICore , një aftësi e re në nivel sistemi që ofron akses në modelet e themelit për ekzekutimin në pajisje, të prezantuara në Android 14. Modelet e fondacionit janë para-instaluar duke përdorur AICore, kështu që nuk keni nevojë t'i shkarkoni ose shpërndani ato brenda aplikacionit tuaj. Ju mund t'i rregulloni këto modele për detyrat në rrjedhën e poshtme duke përdorur LoRa. Android AICore tani është i disponueshëm në prodhim në pajisjet Google Pixel 8 Pro dhe Samsung S24 Series dhe tashmë po fuqizon veçori inovative në aplikacionet e Google.
Për më shumë informacion, shihni Android AICore .
Çfarë është më pas
- Për të mësuar se si të përfitoni nga konkluzionet e Gemini Pro në serverët e Google në aplikacionin tuaj Android, lexoni fillimin e shpejtë për SDK-në e klientit të Google AI për Android .