Filloni me modelet Gemma

Familja e modeleve të hapura Gemma përfshin një gamë madhësish modelesh, aftësish dhe variacionesh të specializuara në detyra për t'ju ndihmuar të ndërtoni zgjidhje gjeneruese të personalizuara. Këto janë rrugët kryesore që mund të ndiqni kur përdorni modelet Gemma në një aplikacion:

  • Zgjidhni një model dhe vendoseni siç është në aplikacionin tuaj
  • Zgjidhni një model, akordojeni atë për një detyrë specifike dhe më pas vendoseni në një aplikacion ose ndajeni atë me komunitetin.

Ky udhëzues ju ndihmon të filloni me zgjedhjen e një modeli, testimin e aftësive të tij dhe, opsionalisht, akordimin e modelit që keni zgjedhur për aplikacionin tuaj.

Merrni atë në Kaggle Merrni atë në Hugging Face

Zgjidh një model

Ky seksion ju ndihmon të kuptoni variantet zyrtare të familjes së modeleve Gemma dhe të zgjidhni një model për aplikacionin tuaj. Variantet e modelit ofrojnë aftësi të përgjithshme ose janë të specializuara për detyra specifike dhe ofrohen në madhësi të ndryshme parametrash, kështu që mund të zgjidhni një model që ka aftësitë tuaja të preferuara dhe plotëson kërkesat tuaja llogaritëse.

Lista e modeleve të Gemma-s

Tabela e mëposhtme rendit variantet kryesore të familjes së modelit Gemma dhe platformat e tyre të synuara të vendosjes:

Madhësia e parametrit Hyrje Prodhimi Variant Fondacioni Platformat e synuara
270 milionë Tekst Tekst Gemma 3 Pajisjet mobile dhe kompjuterët me një bord të vetëm
1B Tekst Tekst Gemma 3 Pajisjet mobile dhe kompjuterët me një bord të vetëm
E2B Tekst, imazhe, audio Tekst Gemma 3n Pajisjet mobile
2B Tekst Tekst Gemma 2 Pajisjet mobile dhe laptopët
Gemma 1
3B Tekst, imazhe Tekst Gemma 2 Kompjuterë desktop dhe serverë të vegjël
E4B Tekst, imazhe, audio Tekst Gemma 3n Pajisjet mobile dhe laptopët
4B Tekst, imazhe Tekst Gemma 3 Kompjuterë desktop dhe serverë të vegjël
7B Tekst Tekst Gemma 1 Kompjuterë desktop dhe serverë të vegjël
9B Tekst Tekst Gemma 2 Kompjuterë desktop dhe serverë të nivelit të lartë
10B Tekst, imazhe Tekst Gemma 2 Kompjuterë desktop dhe serverë të nivelit të lartë
12B Tekst, imazhe Tekst Gemma 3 Kompjuterë desktop dhe serverë të nivelit të lartë
27B Tekst, imazhe Tekst Gemma 3 Serverë të mëdhenj ose grupe serverësh
Tekst Tekst Gemma 2
28B Tekst, imazhe Tekst Gemma 2 Serverë të mëdhenj ose grupe serverësh

Familja e modeleve Gemma përfshin gjithashtu modele me qëllime të veçanta dhe modele kërkimore, duke përfshirë ShieldGemma , DataGemma , Gemma Scope dhe Gemma-APS .

Modelet e testimit

Mund të testoni modelet Gemma duke konfiguruar një mjedis zhvillimi me një model të shkarkuar dhe softuer mbështetës. Pastaj mund ta nxisni modelin dhe të vlerësoni përgjigjet e tij. Përdorni një nga fletoret e mëposhtme Python me kornizën tuaj të preferuar të të mësuarit automatik për të konfiguruar një mjedis testimi dhe për të nxisni një model Gemma:

Modele akordimi

Ju mund ta ndryshoni sjelljen e modeleve Gemma duke kryer rregullime mbi to. Rregullimi i një modeli kërkon një grup të dhënash të dhënash hyrëse dhe përgjigjesh të pritura me madhësi dhe variacion të mjaftueshëm për të udhëhequr sjelljen e modelit. Gjithashtu, ju nevojiten shumë më tepër burime kompjuterike dhe memorieje për të përfunduar një ekzekutim rregullimi krahasuar me ekzekutimin e një modeli Gemma për gjenerimin e tekstit. Përdorni një nga fletoret e mëposhtme Python për të konfiguruar një mjedis zhvillimi rregullimi dhe për të rregulluar një model Gemma:

Hapat e ardhshëm

Shikoni këto udhëzues për të ndërtuar më shumë zgjidhje me Gemma: