Rregulloni me imtësi Funksionin Gemma 270M për Veprimet Mobile

Përmbledhje

Mobile Actions është një aplikacion demo ku përdoruesit mund të aktivizojnë veprime në pajisjen e tyre nga futja me zë ose me tekst. Ai e riimagjinon bashkëveprimin e asistentit si një aftësi plotësisht jashtë linje. Qoftë "Krijo një ngjarje kalendari për drekë nesër", "Shto Xhonin te kontaktet e mia" apo "Ndiz dritën e baterisë", modeli analizon gjuhën natyrore dhe identifikon mjetin e saktë të sistemit operativ për të ekzekutuar komandën.

Ky udhëzues ju tregon se si të:

  1. Përmirësimi i modelit FunctionGemma 270M duke përdorur të dhënat Mobile Actions
  2. Duke vendosur modelin e personalizuar në Galerinë Google AI Edge

Do të jeni në gjendje të mësoni plotësisht, nga rregullimi i imët i një modeli deri te vendosja e tij në pajisje.

Hapi 1: Rregullimi i imët i FunctionGemma me setin e të dhënave Mobile Actions

FunctionGemma është një model me 270 milionë parametra i bazuar në arkitekturën Gemma 3. Është trajnuar posaçërisht për thirrjen e funksioneve, duke i mundësuar asaj të përkthejë kërkesat e gjuhës natyrore në thirrje funksionesh.

Ky model është i vogël dhe mjaftueshëm efikas për t'u përdorur në një telefon celular, por siç është e zakonshme për modelet e kësaj madhësie, kërkon rregullime të hollësishme për ta specializuar për detyrën që do të kryejë.

Për të përmirësuar hollësisht FunctionGemma, ne përdorim të dhënat Mobile Actions , të cilat janë të disponueshme publikisht në Hugging Face. Çdo hyrje në këtë të dhënë ofron:

  • Seti i mjeteve (funksioneve) që modeli mund të përdorë:
    1. Ndez dritën e baterisë
    2. Fik dritën e baterisë
    3. Krijon një kontakt në listën e kontakteve të telefonit
    4. Dërgon një email
    5. Tregon një vendndodhje në hartë
    6. Hap cilësimet e WiFi-së
    7. Krijon një ngjarje të re në kalendar
  • Kërkesa e sistemit që ofron kontekstin si data dhe ora aktuale
  • Kërkesa e përdoruesit, si p.sh. turn on the flashlight .
  • Përgjigja e pritur e modelit, duke përfshirë thirrjet e duhura të funksioneve.

Ja se si duket funksioni i shfaqjes së hartës:

{
  "function": {
    "name": "show_map",
    "description": "Shows a location on the map.",
    "parameters": {
      "type": "OBJECT",
      "properties": {
        "query": {
          "type": "STRING",
          "description": "The location to search for. May be the name of a place, a business, or an address."
        }
      },
      "required": [
        "query"
      ]
    }
  }
}

Fletorja e shënimeve të colab mbulon të gjitha hapat e nevojshëm, duke përfshirë:

  • Vendosja e mjedisit
  • Ngarkimi dhe përpunimi paraprak i të dhënave Mobile Actions
  • Përmirësimi i modelit duke përdorur Hugging Face TRL
  • Konvertimi i modelit në formatin .litertlm për vendosje

Parakusht : Ju nevojitet e njëjta Llogari Google që përdorët për të ruajtur skedarin .litertlm në hapin 1 dhe për t'u identifikuar me të në telefonin tuaj Android.

Pas rregullimit të imët, ne i konvertojmë dhe kuantizojmë peshat e modelit në formatin .litertlm .

Mund ta vendosni modelin në opsionin Google AI Edge Gallery - Mobile Actions duke zgjedhur Load Model dhe duke e zgjedhur atë nga Google Drive juaj (ose një metodë alternative shpërndarjeje). Google AI Edge Gallery është e disponueshme në Google Play Store.

Sfida e përsosur e veprimeve celulare në galerinë e Google AI EdgeDetyra e Veprimeve Mobile në Galerinë Google AI Edge

Tani, mund të provoni të jepni një komandë zanore ose të shkruani në aplikacion për të parë se sa mirë funksionon modeli juaj i ri i përmirësuar duke thirrur funksionet e disponueshme.

Hapat e ardhshëm

Urime! Tani e dini si ta përmirësoni një model me Hugging Face dhe ta vendosni atë në pajisje me LiteRT-LM.