Filloni me modelet Gemma

Familja e modeleve të hapura Gemma përfshin një gamë madhësish modelesh, aftësish dhe variacionesh të specializuara në detyra për t'ju ndihmuar të ndërtoni zgjidhje gjeneruese të personalizuara. Këto janë rrugët kryesore që mund të ndiqni kur përdorni modelet Gemma në një aplikacion:

  • Zgjidhni një model dhe vendoseni siç është në aplikacionin tuaj
  • Zgjidhni një model, akordojeni atë për një detyrë specifike dhe më pas vendoseni në një aplikacion ose ndajeni atë me komunitetin.

Ky udhëzues ju ndihmon të filloni me zgjedhjen e një modeli, testimin e aftësive të tij dhe, opsionalisht, akordimin e modelit që keni zgjedhur për aplikacionin tuaj.

Merrni atë në Kaggle Merrni atë në Hugging Face

Zgjidh një model

Ky seksion ju ndihmon të kuptoni variantet zyrtare të familjes së modeleve Gemma dhe të zgjidhni një model për aplikacionin tuaj. Variantet e modelit ofrojnë aftësi të përgjithshme ose janë të specializuara për detyra specifike dhe ofrohen në madhësi të ndryshme parametrash, kështu që mund të zgjidhni një model që ka aftësitë tuaja të preferuara dhe plotëson kërkesat tuaja llogaritëse.

Tabela e mëposhtme rendit variantet kryesore të familjes së modelit Gemma dhe platformat e tyre të synuara të vendosjes:

Familja Gemma 4

Gjenerata më e fundit me hyrje multimodale (tekst, imazh, audio).

Madhësia Variant Hyrje ➔ Dalje Platforma e synuar
E2B Gemma 4 (bërthamë) Tekst, imazhe, audio ➔ Tekst Pajisjet mobile
E4B Gemma 4 (bërthamë) Tekst, imazhe, audio ➔ Tekst Pajisjet mobile dhe laptopët
A4B Gemma 4 (bërthamë) Tekst, imazhe ➔ Tekst Kompjuterë desktop dhe serverë të vegjël
31B Gemma 4 (bërthamë) Tekst, imazhe ➔ Tekst Serverë të mëdhenj ose grupe serverësh

Familja Gemma 3 dhe 3n

Modele thelbësore për përpunim të shkallëzueshëm të tekstit dhe imazhit, plus variante '3n' për hyrje multimodale të zgjeruara.

Madhësia Variant Hyrje ➔ Dalje Platforma e synuar
270 milionë Gemma 3 (bërthama) Tekst ➔ Tekst Pajisjet mobile dhe kompjuterët me një bord të vetëm
1B Gemma 3 (bërthama) Tekst ➔ Tekst Pajisjet mobile dhe kompjuterët me një bord të vetëm
E2B Gemma 3n Tekst, imazhe, audio ➔ Tekst Pajisjet mobile
4B Gemma 3 (bërthama) Tekst, imazhe ➔ Tekst Kompjuterë desktop dhe serverë të vegjël
E4B Gemma 3n Tekst, imazhe, audio ➔ Tekst Pajisjet mobile dhe laptopët
12B Gemma 3 (bërthama) Tekst, imazhe ➔ Tekst Kompjuterë desktop dhe serverë të nivelit të lartë
27B Gemma 3 (bërthama) Tekst, imazhe ➔ Tekst Serverë të mëdhenj ose grupe serverësh

Familja Gemma 2

Përfshin modele standarde të tekstit dhe variantet e gjuhës multimodale të vizionit PaliGemma 2.

Madhësia Variant Hyrje ➔ Dalje Platforma e synuar
2B Gemma 2 (bërthama) Tekst ➔ Tekst Pajisjet mobile dhe laptopët
3B PaliGemma 2 Tekst, imazhe ➔ Tekst Kompjuterë desktop dhe serverë të vegjël
9B Gemma 2 (bërthama) Tekst ➔ Tekst Kompjuterë desktop dhe serverë të nivelit të lartë
10B PaliGemma 2 Tekst, imazhe ➔ Tekst Kompjuterë desktop dhe serverë të nivelit të lartë
27B Gemma 2 (bërthama) Tekst ➔ Tekst Serverë të mëdhenj ose grupe serverësh
28B PaliGemma 2 Tekst, imazhe ➔ Tekst Serverë të mëdhenj ose grupe serverësh

Familja Gemma 1

Gjenerata origjinale, duke përfshirë variantet specifike të kodimit.

Madhësia Variant Hyrje ➔ Dalje Platforma e synuar
2B Gemma (bërthama)
CodeGemma
Tekst ➔ Tekst Pajisjet mobile dhe laptopët
7B Gemma (bërthama)
CodeGemma
Tekst ➔ Tekst Kompjuterë desktop dhe serverë të vegjël

Familja e modeleve Gemma përfshin gjithashtu modele me qëllime të veçanta dhe modele kërkimore, duke përfshirë ShieldGemma , DataGemma , Gemma Scope dhe Gemma-APS .

Modelet e testimit

Mund të testoni modelet Gemma duke konfiguruar një mjedis zhvillimi me një model të shkarkuar dhe softuer mbështetës. Pastaj mund ta nxisni modelin dhe të vlerësoni përgjigjet e tij. Përdorni një nga fletoret e mëposhtme Python me kornizën tuaj të preferuar të të mësuarit automatik për të konfiguruar një mjedis testimi dhe për të nxisni një model Gemma:

Modele akordimi

Ju mund ta ndryshoni sjelljen e modeleve Gemma duke kryer rregullime mbi to. Rregullimi i një modeli kërkon një grup të dhënash të dhënash hyrëse dhe përgjigjesh të pritura me madhësi dhe variacion të mjaftueshëm për të udhëhequr sjelljen e modelit. Gjithashtu, ju nevojiten shumë më tepër burime kompjuterike dhe memorieje për të përfunduar një ekzekutim rregullimi krahasuar me ekzekutimin e një modeli Gemma për gjenerimin e tekstit. Përdorni një nga fletoret e mëposhtme Python për të konfiguruar një mjedis zhvillimi rregullimi dhe për të rregulluar një model Gemma:

Hapat e ardhshëm

Shikoni këto udhëzues për të ndërtuar më shumë zgjidhje me Gemma: