Strategjitë e shpejta të projektimit

Dizajni i shpejtë është procesi i krijimit të kërkesave, ose kërkesave të gjuhës natyrore, që nxjerrin përgjigje të sakta dhe me cilësi të lartë nga një model gjuhësor.

Kjo faqe prezanton konceptet bazë, strategjitë dhe praktikat më të mira për t'ju bërë të filloni të dizajnoni kërkesat për të përfituar sa më shumë nga modelet Gemini AI.

Udhëzues të shpejtë për një temë specifike

Po kërkoni për strategji më specifike të shpejta? Shikoni udhëzuesit tanë të tjerë nxitës në:

Google AI Studio gjithashtu pret një galeri të shpejtë që synon të shfaqë në mënyrë interaktive shumë nga konceptet e përbashkëta në këtë udhëzues.

Udhëzime të qarta dhe specifike

Një mënyrë efektive dhe efikase për të personalizuar sjelljen e modelit është t'i jepni atij udhëzime të qarta dhe specifike. Udhëzimet mund të jenë në formën e një pyetjeje, detyrash hap pas hapi ose aq komplekse sa përshkrimi i përvojës dhe mendësisë së një përdoruesi.

Input

Hyrja është teksti i kërkuar në promptin të cilit dëshironi që modeli t'i përgjigjet. Inputet mund të jenë një pyetje të cilës modeli i përgjigjet (hyrja e pyetjes), një detyrë që modeli kryen (hyrja e detyrës), një ent me të cilin modeli operon (hyrja e njësisë ekonomike), ose hyrje e pjesshme që modeli e plotëson ose vazhdon (hyrja e përfundimit).

Lloji i hyrjes Prompt Prodhimi i gjeneruar
Pyetje 

    What's a good name for a flower shop that specializes in selling bouquets of
    dried flowers? Create a list of 5 options with just the names.

    Here are 10 names for a flower shop specializing in dried flowers:

    1. Everlasting Blooms
    2. Dried & Delightful
    3. The Petal Preserve
    4. Whispers of Wildflowers
    5. Forever Blooms
Detyrë 
    Give me a simple list of just the things that I must bring on a camping trip. The list should have 5 items.
    1. **Tent:** Your shelter from the elements.
    2. **Sleeping Bag:** Stay warm and comfortable.
    3. **Sleeping Pad:** Insulation and cushioning for a good night's sleep.
    4. **Headlamp or Flashlight:** Light for nighttime activities.
    5. **First Aid Kit:** Be prepared for minor injuries.
Njësia ekonomike 

    Classify the following items as [large, small]:
Elephant
Mouse
Snail

Here's the classification:

* **Elephant:** Large
* **Mouse:** Small
* **Snail:** Small

Përfundimi i pjesshëm i hyrjes

Modelet e gjuhëve gjeneruese funksionojnë si një mjet i avancuar i plotësimit automatik. Kur jepni përmbajtje të pjesshme, modeli mund të sigurojë pjesën tjetër të përmbajtjes ose atë që mendon se është një vazhdimësi e asaj përmbajtjeje si përgjigje. Kur e bëni këtë, nëse përfshini ndonjë shembull ose kontekst, modeli mund t'i marrë parasysh ata shembuj ose kontekst.

Shembulli i mëposhtëm ofron një kërkesë me një udhëzim dhe një hyrje entiteti:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
{
  "cheeseburger": 0,
  "hamburger": 1,
  "fries": 0,
  "drink": 1
}

Ndërsa modeli bëri ashtu siç kërkohej, shkrimi i udhëzimeve në gjuhën natyrore ndonjëherë mund të jetë sfidues dhe i lë shumë interpretimit të modelit. Për shembull, një menu restorantesh mund të përmbajë shumë artikuj. Për të zvogëluar madhësinë e përgjigjes JSON, ndoshta dëshironi të hiqni artikujt që nuk janë porositur. Në këtë rast, mund të jepni një shembull dhe një prefiks përgjigjeje dhe ta lini modelin ta plotësojë atë:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
  "hamburger": 2,
  "drink": 1,
  "fries": 1
}
```

Vini re se si "cheeseburger" u përjashtua nga prodhimi sepse nuk ishte pjesë e porosisë.

Kufizimet

Specifikoni çdo kufizim në leximin e kërkesës ose gjenerimin e një përgjigjeje. Ju mund t'i tregoni modeles se çfarë duhet të bëjë dhe jo. Për shembull, mund të specifikoni një kufizim në prompt për sa kohë dëshironi të jetë një përmbledhje:

Summarize this text in one sentence:
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

      Exploiting quantum mechanical phenomena, quantum computers can perform calculations exponentially faster than traditional computers for potential applications like cybersecurity and meteorology, although they are currently largely experimental and impractical.

Formati i përgjigjes

Ju mund të jepni udhëzime që specifikojnë formatin e përgjigjes. Për shembull, mund të kërkoni që përgjigja të formatohet si një tabelë, listë me pika, lartësi ashensore, fjalë kyçe, fjali ose paragraf. Udhëzimi i mëposhtëm i sistemit i thotë modelit të jetë më bisedues në përgjigjen e tij:

    All questions should be answered comprehensively with details, unless the user requests a concise response specifically.
  
    What is a smart way to make a business that sells DVD's in 2025?
  
Starting a business selling DVDs in 2025 presents significant challenges due to the overwhelming dominance of digital streaming and on-demand services; a "smart" approach would therefore require a highly specialized niche, a strong value proposition beyond just the disc, and likely a focus on community or collector markets rather than mainstream consumption.

Here's a breakdown of what a smart DVD business in 2025 would likely entail:

1. Extreme Niche Specialization: You cannot compete with streaming libraries. Your business must focus on what digital doesn't offer easily or at all. This could include:

    * Out-of-Print & Rare Titles: Sourcing films or TV shows that have never been released digitally or are currently unavailable on major streaming platforms.
    ....

Formatoni përgjigjet me strategjinë e përfundimit

Strategjia e përfundimit mund të ndihmojë gjithashtu në formatimin e përgjigjes. Shembulli i mëposhtëm e shtyn modelin të krijojë një skicë eseje:

Create an outline for an essay about hummingbirds.
  
Here is a possible outline for an essay about hummingbirds:

I. Introduction
A. Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
B. Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds.
C. Thesis Statement: State the main point of the essay, which could be about the remarkable adaptations, behaviors, and ecological importance of hummingbirds.

II. Appearance and Identification
.....

Kërkesa nuk e specifikoi formatin për skicën dhe modeli zgjodhi një format për ju. Për ta bërë modelin të kthejë një skicë në një format specifik, mund të shtoni tekst që përfaqëson fillimin e skicës dhe ta lini modelin ta plotësojë atë bazuar në modelin që keni nisur.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
Okay, here is an outline for an essay about hummingbirds, starting from the introduction you provided:

I. Introduction
* Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
* Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds, and their general characteristics.
* Thesis Statement: State the main point of the essay, focusing on the remarkable adaptations, behaviors, and ecological significance that make hummingbirds extraordinary.
.....

Kërkesat për të shtëna zero kundër disa të shtëna

Ju mund të përfshini shembuj në prompt që i tregojnë modelit se si duket ta bësh atë siç duhet. Modeli përpiqet të identifikojë modelet dhe marrëdhëniet nga shembujt dhe i zbaton ato kur gjeneron një përgjigje. Kërkesat që përmbajnë disa shembuj quhen kërkesa me disa goditje , ndërsa ato që nuk japin shembuj quhen kërkesa me "zero-shot" . Kërkesat e pakta të shkrepjes përdoren shpesh për të rregulluar formatimin, frazën, shtrirjen ose modelimin e përgjithshëm të përgjigjeve të modelit. Përdorni shembuj specifikë dhe të ndryshëm për të ndihmuar modelin të ngushtojë fokusin e tij dhe të gjenerojë rezultate më të sakta.

Ne rekomandojmë që gjithmonë të përfshini shembuj të pakta në kërkesat tuaja. Kërkesat pa shembuj të pakët ka të ngjarë të jenë më pak efektive. Në fakt, ju mund të hiqni udhëzimet nga kërkesa juaj nëse shembujt tuaj janë mjaft të qartë për të treguar detyrën në fjalë.

Prompti i mëposhtëm me zero i kërkon modelit të zgjedhë shpjegimin më të mirë.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1 is the better explanation because it provides more detail on the
process, including how ice crystals combine and grow into snowflakes as they
fall through the atmosphere.

Nëse rasti juaj i përdorimit kërkon që modeli të prodhojë përgjigje koncize, mund të përfshini shembuj në kërkesë që u japin përparësi përgjigjeve koncize.

Prompti i mëposhtëm ofron dy shembuj që tregojnë përparësi ndaj shpjegimeve më të shkurtra. Në përgjigje, mund të shihni se shembujt e udhëhoqën modelin të zgjidhte shpjegimin më të shkurtër ( Explanation2 ) në krahasim me shpjegimin më të gjatë ( Explanation1 ) si më parë.

Below are some examples showing a question, explanation, and answer format:

Question: Why is the sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes
shorter blue wavelengths of light to be scattered more easily than longer red
wavelengths, making the sky look blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break
apart, causing a release of energy that creates seismic waves that can shake the
ground and cause damage.
Answer: Explanation1

Now, Answer the following question given the example formats above:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Answer: Explanation2

Numri optimal i shembujve

Modele si Binjakët shpesh mund të marrin modele duke përdorur disa shembuj, megjithëse mund t'ju duhet të eksperimentoni me numrin e shembujve për të siguruar rezultatet më të mira. Në të njëjtën kohë, nëse përfshini shumë shembuj, modeli mund të fillojë t'i përshtatet më shumë përgjigjes ndaj shembujve.

Modele kundër modeleve kundër

Përdorimi i shembujve për t'i treguar modelit një model që duhet ndjekur është më efektiv sesa përdorimi i shembujve për t'i treguar modelit një model kundër që duhet shmangur.

⛔ Modeli negativ:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?

✅ Modeli pozitiv:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write

Formatim konsistent

Sigurohuni që struktura dhe formatimi i shembujve me pak fotografi janë të njëjta për të shmangur përgjigjet me formate të padëshiruara. Një nga objektivat parësorë të shtimit të shembujve me disa fotografi në prompt është t'i tregojë modelit formatin e përgjigjes. Prandaj, është thelbësore të sigurohet një format i qëndrueshëm në të gjithë shembujt, veçanërisht duke i kushtuar vëmendje etiketave XML, hapësirave të bardha, vijave të reja dhe ndarjeve të shembujve.

Shto kontekst

Ju mund të përfshini udhëzime dhe informacione në një kërkesë që modelit i duhet për të zgjidhur një problem, në vend që të supozoni se modeli ka të gjithë informacionin e kërkuar. Ky informacion kontekstual e ndihmon modelin të kuptojë kufizimet dhe detajet e asaj që ju kërkoni të bëjë.

Shembulli i mëposhtëm kërkon që modeli të japë udhëzime për zgjidhjen e problemeve për një ruter:

What should I do to fix my disconnected wifi? The light on my Google
Wifi router is yellow and blinking slowly.
  
  A yellow blinking light on your Google Wifi router usually indicates a problem
  with the internet connection. Here are some steps to troubleshoot and fix the
  issue:
  1. Restart your router and modem:
    - Unplug your modem from the power outlet and wait for 30 seconds.
    - Plug your modem back in and wait for it to fully boot up.
    - Unplug your Google Wifi router and wait for 30 seconds.
    - Plug your Google Wifi router back in and wait for it to fully boot up.
.....

Përgjigja duket si informacion i përgjithshëm për zgjidhjen e problemeve që nuk janë specifikë për ruterin ose statusin e dritave treguese LED.

Për të personalizuar përgjigjen për ruterin specifik, mund t'i shtoni kërkesës udhëzuesin për zgjidhjen e problemeve të ruterit si kontekst që ai t'i referohet kur jep një përgjigje.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Shtoni parashtesa

Një parashtesë është një fjalë ose frazë që shtoni në përmbajtjen e shpejtë që mund të shërbejë për disa qëllime, në varësi të vendit ku vendosni parashtesën:

  • Prefiksi i hyrjes: Shtimi i një prefiksi në sinjalet hyrëse sinjalizon pjesë kuptimore semantike të hyrjes në model. Për shembull, parashtesat "Anglisht:" dhe "Frëngjisht:" përcaktojnë dy gjuhë të ndryshme.
  • Prefiksi i daljes: Edhe pse dalja gjenerohet nga modeli, ju mund të shtoni një prefiks për daljen në prompt. Prefiksi i daljes i jep modelit informacion rreth asaj që pritet si përgjigje. Për shembull, prefiksi i daljes "JSON:" i sinjalizon modelit që dalja duhet të jetë në formatin JSON.
  • Parashtesa e shembullit: Në kërkesat e disa fotografive, shtimi i prefikseve në shembuj siguron etiketa që modeli mund të përdorë kur gjeneron daljen, gjë që e bën më të lehtë analizimin e përmbajtjes së daljes.

Në shembullin e mëposhtëm, "Text:" është prefiksi i hyrjes dhe "Përgjigja është:" është prefiksi i daljes.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
The answer is: large

Zbërtheni kërkesat në komponentë

Për rastet e përdorimit që kërkojnë kërkesa komplekse, ju mund ta ndihmoni modelin të menaxhojë këtë kompleksitet duke i ndarë gjërat në komponentë më të thjeshtë.

  1. Zbërtheni udhëzimet: Në vend që të keni shumë udhëzime në një kërkesë, krijoni një kërkesë për çdo udhëzim. Ju mund të zgjidhni cilin prompt të përpunoni bazuar në të dhënat e përdoruesit.

  2. Kërkesat e zinxhirit: Për detyra komplekse që përfshijnë hapa të shumëfishtë sekuencialë, bëni çdo hap një kërkesë dhe lidhni me zinxhir kërkesat së bashku në një sekuencë. Në këtë zinxhir vijues kërkesash, dalja e një prompt në sekuencë bëhet hyrja e kërkesës tjetër. Dalja e kërkesës së fundit në sekuencë është dalja përfundimtare.

  3. Përgjigjet agregate: Grumbullimi është kur dëshironi të kryeni detyra të ndryshme paralele në pjesë të ndryshme të të dhënave dhe të grumbulloni rezultatet për të prodhuar rezultatin përfundimtar. Për shembull, mund t'i thoni modelit të kryejë një operacion në pjesën e parë të të dhënave, të kryejë një operacion tjetër në pjesën tjetër të të dhënave dhe të grumbullojë rezultatet.

Eksperimentoni me parametrat e modelit

Çdo thirrje që i dërgoni një modeli përfshin vlerat e parametrave që kontrollojnë se si modeli gjeneron një përgjigje. Modeli mund të gjenerojë rezultate të ndryshme për vlera të ndryshme parametrash. Eksperimentoni me vlera të ndryshme parametrash për të marrë vlerat më të mira për detyrën. Parametrat e disponueshëm për modele të ndryshme mund të ndryshojnë. Parametrat më të zakonshëm janë si më poshtë:

  1. Shenjat maksimale të daljes: Përcakton numrin maksimal të shenjave që mund të gjenerohen në përgjigje. Një shenjë është afërsisht katër karaktere. 100 shenja korrespondojnë me afërsisht 60-80 fjalë.

  2. Temperatura: Temperatura kontrollon shkallën e rastësisë në zgjedhjen e shenjave. Temperatura përdoret për marrjen e mostrave gjatë gjenerimit të përgjigjes, e cila ndodh kur aplikohen topP dhe topK . Temperaturat më të ulëta janë të mira për kërkesat që kërkojnë një përgjigje më deterministe ose më pak të hapur, ndërsa temperaturat më të larta mund të çojnë në rezultate më të ndryshme ose krijuese. Një temperaturë prej 0 është përcaktuese, që do të thotë se përgjigja e probabilitetit më të lartë zgjidhet gjithmonë.

  3. topK : Parametri topK ndryshon mënyrën se si modeli zgjedh shenjat për dalje. Një topK prej 1 do të thotë se tokeni i zgjedhur është më i mundshmi nga të gjitha shenjat në fjalorin e modelit (i quajtur edhe dekodimi i pangopur), ndërsa një topK prej 3 do të thotë që tokeni tjetër zgjidhet nga 3 më të mundshmet duke përdorur temperaturën. Për secilin hap të përzgjedhjes së tokenit, mostrat topK ve me probabilitete më të larta. Shenjat më pas filtrohen më tej bazuar në topP me shenjën përfundimtare të zgjedhur duke përdorur kampionimin e temperaturës.

  4. topP : Parametri topP ndryshon mënyrën se si modeli zgjedh shenjat për dalje. Shenjat zgjidhen nga më e mundshme në më pak të mundshme derisa shuma e probabiliteteve të tyre të jetë e barabartë me vlerën topP . Për shembull, nëse shenjat A, B dhe C kanë një probabilitet prej 0.3, 0.2 dhe 0.1 dhe vlera topP është 0.5, atëherë modeli do të zgjedhë A ose B si shenjën tjetër duke përdorur temperaturën dhe përjashton C si kandidat. Vlera e paracaktuar topP është 0.95.

  5. stop_sequences : Vendosni një sekuencë ndalimi për t'i thënë modelit të ndalojë gjenerimin e përmbajtjes. Një sekuencë ndalimi mund të jetë çdo sekuencë karakteresh. Mundohuni të shmangni përdorimin e një sekuence karakteresh që mund të shfaqen në përmbajtjen e krijuar.

Strategjitë e shpejta të përsëritjes

Dizajni i shpejtë ndonjëherë mund të kërkojë disa përsëritje përpara se të merrni vazhdimisht përgjigjen që po kërkoni. Ky seksion ofron udhëzime për disa gjëra që mund të provoni kur përsëritni në kërkesat tuaja:

  1. Përdorni fraza të ndryshme: Përdorimi i fjalëve ose frazave të ndryshme në kërkesat tuaja shpesh jep përgjigje të ndryshme nga modeli edhe pse të gjitha nënkuptojnë të njëjtën gjë. Nëse nuk po merrni rezultatet e pritura nga kërkesa juaj, provo ta riformulosh atë. 

    Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?

  2. Kaloni në një detyrë analoge: Nëse nuk mund ta bëni modelin të ndjekë udhëzimet tuaja për një detyrë, provoni t'i jepni udhëzime për një detyrë analoge që arrin të njëjtin rezultat.

    Kjo kërkesë i thotë modelit të kategorizojë një libër duke përdorur kategori të paracaktuara:

    Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
        The Odyssey belongs to the category of **mythology**. 

    Here's why:

    * **Mythology:** The Odyssey tells the story of Odysseus, a hero from Greek mythology, and his
    journey home after the Trojan War. It features gods, monsters, and supernatural events common to
    Greek mythology.
.....

    Përgjigja është e saktë, por modeli nuk qëndroi brenda kufijve të opsioneve. Ju gjithashtu dëshironi të modeloni që thjesht të përgjigjeni me një nga opsionet në vend të një fjalie të plotë. Në këtë rast, ju mund t'i riformuloni udhëzimet si një pyetje me shumë zgjedhje dhe t'i kërkoni modelit të zgjedhë një opsion.

    Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
    


      

    • thriller
      • 

    • sci-fi
      • 

    • mythology
      • 

    • biography

    The correct answer is mythology.

  3. Ndryshoni rendin e përmbajtjes së kërkesës: Renditja e përmbajtjes në kërkesë ndonjëherë mund të ndikojë në përgjigjen. Provoni të ndryshoni rendin e përmbajtjes dhe shikoni se si kjo ndikon në përgjigjen. 

    Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

Përgjigjet e kthimit

Një përgjigje kthimi është një përgjigje e kthyer nga modeli kur kërkesa ose përgjigja aktivizojnë një filtër sigurie. Një shembull i një përgjigjeje tjetër është "Unë nuk jam në gjendje të ndihmoj me këtë, pasi jam vetëm një model gjuhësor".

Nëse modeli përgjigjet me një përgjigje kthimi, provoni të rrisni temperaturën.

Gjërat për të shmangur

  • Shmangni mbështetjen në modele për të gjeneruar informacion faktik.
  • Përdoreni me kujdes në problemet e matematikës dhe logjikës.

Modele gjeneruese nën kapuç

Ky seksion synon t'i përgjigjet pyetjes - A ka rastësi në përgjigjet e modeleve gjeneruese, apo janë ato deterministe?

Përgjigja e shkurtër - po për të dyja. Kur kërkoni një model gjenerues, një përgjigje teksti gjenerohet në dy faza. Në fazën e parë, modeli gjenerues përpunon kërkesën e hyrjes dhe gjeneron një shpërndarje probabiliteti mbi shenjat (fjalët) e mundshme që ka të ngjarë të vijnë më pas. Për shembull, nëse pyetni me tekstin hyrës "Qeni kërceu mbi ...", modeli gjenerues do të prodhojë një sërë fjalësh të mundshme vijuese: 

[("fence", 0.77), ("ledge", 0.12), ("blanket", 0.03), ...]

Ky proces është determinist; një model gjenerues do të prodhojë të njëjtën shpërndarje sa herë që fut të njëjtin tekst prompt.

Në fazën e dytë, modeli gjenerues i konverton këto shpërndarje në përgjigje të tekstit aktual përmes një prej disa strategjive të dekodimit. Një strategji e thjeshtë dekodimi mund të zgjedhë tokenin më të mundshëm në çdo hap kohor. Ky proces do të ishte gjithmonë determinist. Sidoqoftë, në vend të kësaj, ju mund të zgjidhni të gjeneroni një përgjigje duke marrë kampione të rastësishme mbi shpërndarjen e kthyer nga modeli. Ky proces do të ishte stokastik (i rastësishëm). Kontrolloni shkallën e rastësisë së lejuar në këtë proces dekodimi duke vendosur temperaturën. Një temperaturë prej 0 do të thotë se janë zgjedhur vetëm shenjat më të mundshme dhe nuk ka rastësi. Anasjelltas, një temperaturë e lartë injekton një shkallë të lartë rastësie në shenjat e zgjedhura nga modeli, duke çuar në përgjigje më të papritura dhe befasuese të modelit.

Hapat e ardhshëm

,

Dizajni i shpejtë është procesi i krijimit të kërkesave, ose kërkesave të gjuhës natyrore, që nxjerrin përgjigje të sakta dhe me cilësi të lartë nga një model gjuhësor.

Kjo faqe prezanton konceptet bazë, strategjitë dhe praktikat më të mira për t'ju bërë të filloni të dizajnoni kërkesat për të përfituar sa më shumë nga modelet Gemini AI.

Udhëzues të shpejtë për një temë specifike

Po kërkoni strategji më specifike të shpejta? Shikoni udhëzuesit tanë të tjerë nxitës në:

Google AI Studio gjithashtu pret një galeri të shpejtë që synon të shfaqë në mënyrë interaktive shumë nga konceptet e përbashkëta në këtë udhëzues.

Udhëzime të qarta dhe specifike

Një mënyrë efektive dhe efikase për të personalizuar sjelljen e modelit është t'i jepni atij udhëzime të qarta dhe specifike. Udhëzimet mund të jenë në formën e një pyetjeje, detyrash hap pas hapi ose aq komplekse sa përshkrimi i përvojës dhe mendësisë së një përdoruesi.

Input

Hyrja është teksti i kërkuar në promptin të cilit dëshironi që modeli t'i përgjigjet. Inputet mund të jenë një pyetje të cilës modeli i përgjigjet (hyrja e pyetjes), një detyrë që modeli kryen (hyrja e detyrës), një ent me të cilin modeli operon (hyrja e njësisë ekonomike), ose hyrje e pjesshme që modeli e plotëson ose vazhdon (hyrja e përfundimit).

Lloji i hyrjes Prompt Prodhimi i gjeneruar
Pyetje 

    What's a good name for a flower shop that specializes in selling bouquets of
    dried flowers? Create a list of 5 options with just the names.

    Here are 10 names for a flower shop specializing in dried flowers:

    1. Everlasting Blooms
    2. Dried & Delightful
    3. The Petal Preserve
    4. Whispers of Wildflowers
    5. Forever Blooms
Detyrë 
    Give me a simple list of just the things that I must bring on a camping trip. The list should have 5 items.
    1. **Tent:** Your shelter from the elements.
    2. **Sleeping Bag:** Stay warm and comfortable.
    3. **Sleeping Pad:** Insulation and cushioning for a good night's sleep.
    4. **Headlamp or Flashlight:** Light for nighttime activities.
    5. **First Aid Kit:** Be prepared for minor injuries.
Njësia ekonomike 

    Classify the following items as [large, small]:
Elephant
Mouse
Snail

Here's the classification:

* **Elephant:** Large
* **Mouse:** Small
* **Snail:** Small

Përfundimi i pjesshëm i hyrjes

Modelet e gjuhëve gjeneruese funksionojnë si një mjet i avancuar i plotësimit automatik. Kur jepni përmbajtje të pjesshme, modeli mund të sigurojë pjesën tjetër të përmbajtjes ose atë që mendon se është një vazhdimësi e asaj përmbajtjeje si përgjigje. Kur e bëni këtë, nëse përfshini ndonjë shembull ose kontekst, modeli mund t'i marrë parasysh ata shembuj ose kontekst.

Shembulli i mëposhtëm ofron një kërkesë me një udhëzim dhe një hyrje entiteti:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
{
  "cheeseburger": 0,
  "hamburger": 1,
  "fries": 0,
  "drink": 1
}

Ndërsa modeli bëri ashtu siç kërkohej, shkrimi i udhëzimeve në gjuhën natyrore ndonjëherë mund të jetë sfidues dhe i lë shumë interpretimit të modelit. Për shembull, një menu restorantesh mund të përmbajë shumë artikuj. Për të zvogëluar madhësinë e përgjigjes JSON, ndoshta dëshironi të hiqni artikujt që nuk janë porositur. Në këtë rast, mund të jepni një shembull dhe një prefiks përgjigjeje dhe ta lini modelin ta plotësojë atë:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
  "hamburger": 2,
  "drink": 1,
  "fries": 1
}
```

Vini re se si "cheeseburger" u përjashtua nga prodhimi sepse nuk ishte pjesë e porosisë.

Kufizimet

Specifikoni çdo kufizim në leximin e kërkesës ose gjenerimin e një përgjigjeje. Ju mund t'i tregoni modeles se çfarë duhet të bëjë dhe jo. Për shembull, mund të specifikoni një kufizim në prompt për sa kohë dëshironi të jetë një përmbledhje:

Summarize this text in one sentence:
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

      Exploiting quantum mechanical phenomena, quantum computers can perform calculations exponentially faster than traditional computers for potential applications like cybersecurity and meteorology, although they are currently largely experimental and impractical.

Formati i përgjigjes

Ju mund të jepni udhëzime që specifikojnë formatin e përgjigjes. Për shembull, mund të kërkoni që përgjigja të formatohet si një tabelë, listë me pika, lartësi ashensore, fjalë kyçe, fjali ose paragraf. Udhëzimi i mëposhtëm i sistemit i thotë modelit të jetë më bisedues në përgjigjen e tij:

    All questions should be answered comprehensively with details, unless the user requests a concise response specifically.
  
    What is a smart way to make a business that sells DVD's in 2025?
  
Starting a business selling DVDs in 2025 presents significant challenges due to the overwhelming dominance of digital streaming and on-demand services; a "smart" approach would therefore require a highly specialized niche, a strong value proposition beyond just the disc, and likely a focus on community or collector markets rather than mainstream consumption.

Here's a breakdown of what a smart DVD business in 2025 would likely entail:

1. Extreme Niche Specialization: You cannot compete with streaming libraries. Your business must focus on what digital doesn't offer easily or at all. This could include:

    * Out-of-Print & Rare Titles: Sourcing films or TV shows that have never been released digitally or are currently unavailable on major streaming platforms.
    ....

Formatoni përgjigjet me strategjinë e përfundimit

Strategjia e përfundimit mund të ndihmojë gjithashtu në formatimin e përgjigjes. Shembulli i mëposhtëm e shtyn modelin të krijojë një skicë eseje:

Create an outline for an essay about hummingbirds.
  
Here is a possible outline for an essay about hummingbirds:

I. Introduction
A. Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
B. Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds.
C. Thesis Statement: State the main point of the essay, which could be about the remarkable adaptations, behaviors, and ecological importance of hummingbirds.

II. Appearance and Identification
.....

Kërkesa nuk e specifikoi formatin për skicën dhe modeli zgjodhi një format për ju. Për ta bërë modelin të kthejë një skicë në një format specifik, mund të shtoni tekst që përfaqëson fillimin e skicës dhe ta lini modelin ta plotësojë atë bazuar në modelin që keni nisur.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
Okay, here is an outline for an essay about hummingbirds, starting from the introduction you provided:

I. Introduction
* Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
* Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds, and their general characteristics.
* Thesis Statement: State the main point of the essay, focusing on the remarkable adaptations, behaviors, and ecological significance that make hummingbirds extraordinary.
.....

Kërkesat për të shtëna zero kundër disa të shtëna

Ju mund të përfshini shembuj në prompt që i tregojnë modelit se si duket ta bësh atë siç duhet. Modeli përpiqet të identifikojë modelet dhe marrëdhëniet nga shembujt dhe i zbaton ato kur gjeneron një përgjigje. Kërkesat që përmbajnë disa shembuj quhen kërkesa me disa goditje , ndërsa ato që nuk japin shembuj quhen kërkesa me "zero-shot" . Kërkesat e pakta të shkrepjes përdoren shpesh për të rregulluar formatimin, frazën, shtrirjen ose modelimin e përgjithshëm të përgjigjeve të modelit. Përdorni shembuj specifikë dhe të ndryshëm për të ndihmuar modelin të ngushtojë fokusin e tij dhe të gjenerojë rezultate më të sakta.

Ne rekomandojmë që gjithmonë të përfshini shembuj të pakta në kërkesat tuaja. Kërkesat pa shembuj të pakët ka të ngjarë të jenë më pak efektive. Në fakt, ju mund të hiqni udhëzimet nga kërkesa juaj nëse shembujt tuaj janë mjaft të qartë për të treguar detyrën në fjalë.

Prompti i mëposhtëm me zero i kërkon modelit të zgjedhë shpjegimin më të mirë.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1 is the better explanation because it provides more detail on the
process, including how ice crystals combine and grow into snowflakes as they
fall through the atmosphere.

Nëse rasti juaj i përdorimit kërkon që modeli të prodhojë përgjigje koncize, mund të përfshini shembuj në kërkesë që u japin përparësi përgjigjeve koncize.

Prompti i mëposhtëm ofron dy shembuj që tregojnë përparësi ndaj shpjegimeve më të shkurtra. Në përgjigje, mund të shihni se shembujt e udhëhoqën modelin të zgjidhte shpjegimin më të shkurtër ( Explanation2 ) në krahasim me shpjegimin më të gjatë ( Explanation1 ) si më parë.

Below are some examples showing a question, explanation, and answer format:

Question: Why is the sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes
shorter blue wavelengths of light to be scattered more easily than longer red
wavelengths, making the sky look blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break
apart, causing a release of energy that creates seismic waves that can shake the
ground and cause damage.
Answer: Explanation1

Now, Answer the following question given the example formats above:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Answer: Explanation2

Numri optimal i shembujve

Modele si Binjakët shpesh mund të marrin modele duke përdorur disa shembuj, megjithëse mund t'ju duhet të eksperimentoni me numrin e shembujve për të siguruar rezultatet më të mira. Në të njëjtën kohë, nëse përfshini shumë shembuj, modeli mund të fillojë t'i përshtatet më shumë përgjigjes ndaj shembujve.

Modele kundër modeleve kundër

Përdorimi i shembujve për t'i treguar modelit një model që duhet ndjekur është më efektiv sesa përdorimi i shembujve për t'i treguar modelit një model kundër që duhet shmangur.

⛔ Modeli negativ:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?

✅ Modeli pozitiv:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write

Formatim konsistent

Sigurohuni që struktura dhe formatimi i shembujve me pak fotografi janë të njëjta për të shmangur përgjigjet me formate të padëshiruara. Një nga objektivat parësorë të shtimit të shembujve me disa fotografi në prompt është t'i tregojë modelit formatin e përgjigjes. Prandaj, është thelbësore të sigurohet një format i qëndrueshëm në të gjithë shembujt, veçanërisht duke i kushtuar vëmendje etiketave XML, hapësirave të bardha, vijave të reja dhe ndarjeve të shembujve.

Shto kontekst

Ju mund të përfshini udhëzime dhe informacione në një kërkesë që modelit i duhet për të zgjidhur një problem, në vend që të supozoni se modeli ka të gjithë informacionin e kërkuar. Ky informacion kontekstual e ndihmon modelin të kuptojë kufizimet dhe detajet e asaj që ju kërkoni të bëjë.

Shembulli i mëposhtëm kërkon që modeli të japë udhëzime për zgjidhjen e problemeve për një ruter:

What should I do to fix my disconnected wifi? The light on my Google
Wifi router is yellow and blinking slowly.
  
  A yellow blinking light on your Google Wifi router usually indicates a problem
  with the internet connection. Here are some steps to troubleshoot and fix the
  issue:
  1. Restart your router and modem:
    - Unplug your modem from the power outlet and wait for 30 seconds.
    - Plug your modem back in and wait for it to fully boot up.
    - Unplug your Google Wifi router and wait for 30 seconds.
    - Plug your Google Wifi router back in and wait for it to fully boot up.
.....

Përgjigja duket si informacion i përgjithshëm për zgjidhjen e problemeve që nuk janë specifikë për ruterin ose statusin e dritave treguese LED.

Për të personalizuar përgjigjen për ruterin specifik, mund t'i shtoni kërkesës udhëzuesin për zgjidhjen e problemeve të ruterit si kontekst që ai t'i referohet kur jep një përgjigje.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Shtoni parashtesa

Një parashtesë është një fjalë ose frazë që shtoni në përmbajtjen e shpejtë që mund të shërbejë për disa qëllime, në varësi të vendit ku vendosni parashtesën:

  • Prefiksi i hyrjes: Shtimi i një prefiksi në sinjalet hyrëse sinjalizon pjesë kuptimore semantike të hyrjes në model. Për shembull, parashtesat "Anglisht:" dhe "Frëngjisht:" përcaktojnë dy gjuhë të ndryshme.
  • Prefiksi i daljes: Edhe pse dalja gjenerohet nga modeli, ju mund të shtoni një prefiks për daljen në prompt. Prefiksi i daljes i jep modelit informacion rreth asaj që pritet si përgjigje. Për shembull, prefiksi i daljes "JSON:" i sinjalizon modelit që dalja duhet të jetë në formatin JSON.
  • Parashtesa e shembullit: Në kërkesat e disa fotografive, shtimi i prefikseve në shembuj siguron etiketa që modeli mund të përdorë kur gjeneron daljen, gjë që e bën më të lehtë analizimin e përmbajtjes së daljes.

Në shembullin e mëposhtëm, "Text:" është prefiksi i hyrjes dhe "Përgjigja është:" është prefiksi i daljes.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
The answer is: large

Zbërtheni kërkesat në komponentë

Për rastet e përdorimit që kërkojnë kërkesa komplekse, ju mund ta ndihmoni modelin të menaxhojë këtë kompleksitet duke i ndarë gjërat në komponentë më të thjeshtë.

  1. Zbërtheni udhëzimet: Në vend që të keni shumë udhëzime në një kërkesë, krijoni një kërkesë për çdo udhëzim. Ju mund të zgjidhni cilin prompt të përpunoni bazuar në të dhënat e përdoruesit.

  2. Kërkesat e zinxhirit: Për detyra komplekse që përfshijnë hapa të shumëfishtë sekuencialë, bëni çdo hap një kërkesë dhe lidhni me zinxhir kërkesat së bashku në një sekuencë. Në këtë zinxhir vijues kërkesash, dalja e një prompt në sekuencë bëhet hyrja e kërkesës tjetër. Dalja e kërkesës së fundit në sekuencë është dalja përfundimtare.

  3. Përgjigjet agregate: Grumbullimi është kur dëshironi të kryeni detyra të ndryshme paralele në pjesë të ndryshme të të dhënave dhe të grumbulloni rezultatet për të prodhuar rezultatin përfundimtar. Për shembull, mund t'i thoni modelit të kryejë një operacion në pjesën e parë të të dhënave, të kryejë një operacion tjetër në pjesën tjetër të të dhënave dhe të grumbullojë rezultatet.

Eksperimentoni me parametrat e modelit

Çdo thirrje që i dërgoni një modeli përfshin vlerat e parametrave që kontrollojnë se si modeli gjeneron një përgjigje. Modeli mund të gjenerojë rezultate të ndryshme për vlera të ndryshme parametrash. Eksperimentoni me vlera të ndryshme parametrash për të marrë vlerat më të mira për detyrën. Parametrat e disponueshëm për modele të ndryshme mund të ndryshojnë. Parametrat më të zakonshëm janë si më poshtë:

  1. Shenjat maksimale të daljes: Përcakton numrin maksimal të shenjave që mund të gjenerohen në përgjigje. Një shenjë është afërsisht katër karaktere. 100 shenja korrespondojnë me afërsisht 60-80 fjalë.

  2. Temperatura: Temperatura kontrollon shkallën e rastësisë në zgjedhjen e shenjave. Temperatura përdoret për marrjen e mostrave gjatë gjenerimit të përgjigjes, e cila ndodh kur aplikohen topP dhe topK . Temperaturat më të ulëta janë të mira për kërkesat që kërkojnë një përgjigje më deterministe ose më pak të hapur, ndërsa temperaturat më të larta mund të çojnë në rezultate më të ndryshme ose krijuese. Një temperaturë prej 0 është përcaktuese, që do të thotë se përgjigja e probabilitetit më të lartë zgjidhet gjithmonë.

  3. topK : Parametri topK ndryshon mënyrën se si modeli zgjedh shenjat për dalje. Një topK prej 1 do të thotë se tokeni i zgjedhur është më i mundshmi nga të gjitha shenjat në fjalorin e modelit (i quajtur edhe dekodimi i pangopur), ndërsa një topK prej 3 do të thotë që tokeni tjetër zgjidhet nga 3 më të mundshmet duke përdorur temperaturën. Për secilin hap të përzgjedhjes së tokenit, mostrat topK ve me probabilitete më të larta. Shenjat më pas filtrohen më tej bazuar në topP me shenjën përfundimtare të zgjedhur duke përdorur kampionimin e temperaturës.

  4. topP : Parametri topP ndryshon mënyrën se si modeli zgjedh shenjat për dalje. Shenjat zgjidhen nga më e mundshme në më pak të mundshme derisa shuma e probabiliteteve të tyre të jetë e barabartë me vlerën topP . Për shembull, nëse shenjat A, B dhe C kanë një probabilitet prej 0.3, 0.2 dhe 0.1 dhe vlera topP është 0.5, atëherë modeli do të zgjedhë A ose B si shenjën tjetër duke përdorur temperaturën dhe përjashton C si kandidat. Vlera e paracaktuar topP është 0.95.

  5. stop_sequences : Vendosni një sekuencë ndalimi për t'i thënë modelit të ndalojë gjenerimin e përmbajtjes. Një sekuencë ndalimi mund të jetë çdo sekuencë karakteresh. Mundohuni të shmangni përdorimin e një sekuence karakteresh që mund të shfaqen në përmbajtjen e krijuar.

Strategjitë e shpejta të përsëritjes

Dizajni i shpejtë ndonjëherë mund të kërkojë disa përsëritje përpara se të merrni vazhdimisht përgjigjen që po kërkoni. Ky seksion ofron udhëzime për disa gjëra që mund të provoni kur përsëritni në kërkesat tuaja:

  1. Përdorni fraza të ndryshme: Përdorimi i fjalëve ose frazave të ndryshme në kërkesat tuaja shpesh jep përgjigje të ndryshme nga modeli edhe pse të gjitha nënkuptojnë të njëjtën gjë. Nëse nuk po merrni rezultatet e pritura nga kërkesa juaj, provo ta riformulosh atë. 

    Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?

  2. Kaloni në një detyrë analoge: Nëse nuk mund ta bëni modelin të ndjekë udhëzimet tuaja për një detyrë, provoni t'i jepni udhëzime për një detyrë analoge që arrin të njëjtin rezultat.

    Kjo kërkesë i thotë modelit të kategorizojë një libër duke përdorur kategori të paracaktuara:

    Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
        The Odyssey belongs to the category of **mythology**. 

    Here's why:

    * **Mythology:** The Odyssey tells the story of Odysseus, a hero from Greek mythology, and his
    journey home after the Trojan War. It features gods, monsters, and supernatural events common to
    Greek mythology.
.....

    Përgjigja është e saktë, por modeli nuk qëndroi brenda kufijve të opsioneve. Ju gjithashtu dëshironi të modeloni që thjesht të përgjigjeni me një nga opsionet në vend të një fjalie të plotë. Në këtë rast, ju mund t'i riformuloni udhëzimet si një pyetje me shumë zgjedhje dhe t'i kërkoni modelit të zgjedhë një opsion.

    Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
    


      

    • thriller
      • 

    • sci-fi
      • 

    • mythology
      • 

    • biography

    The correct answer is mythology.

  3. Ndryshoni rendin e përmbajtjes së kërkesës: Renditja e përmbajtjes në kërkesë ndonjëherë mund të ndikojë në përgjigjen. Provoni të ndryshoni rendin e përmbajtjes dhe shikoni se si kjo ndikon në përgjigjen. 

    Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

Përgjigjet e kthimit

Një përgjigje kthimi është një përgjigje e kthyer nga modeli kur kërkesa ose përgjigja aktivizojnë një filtër sigurie. Një shembull i një përgjigjeje tjetër është "Unë nuk jam në gjendje të ndihmoj me këtë, pasi jam vetëm një model gjuhësor".

Nëse modeli përgjigjet me një përgjigje kthimi, provoni të rrisni temperaturën.

Gjërat për të shmangur

  • Shmangni mbështetjen në modele për të gjeneruar informacion faktik.
  • Përdoreni me kujdes në problemet e matematikës dhe logjikës.

Modele gjeneruese nën kapuç

Ky seksion synon t'i përgjigjet pyetjes - A ka rastësi në përgjigjet e modeleve gjeneruese, apo janë ato deterministe?

Përgjigja e shkurtër - po për të dyja. Kur kërkoni një model gjenerues, një përgjigje teksti gjenerohet në dy faza. Në fazën e parë, modeli gjenerues përpunon kërkesën e hyrjes dhe gjeneron një shpërndarje probabiliteti mbi shenjat (fjalët) e mundshme që ka të ngjarë të vijnë më pas. Për shembull, nëse pyetni me tekstin hyrës "Qeni kërceu mbi ...", modeli gjenerues do të prodhojë një sërë fjalësh të mundshme vijuese: 

[("fence", 0.77), ("ledge", 0.12), ("blanket", 0.03), ...]

Ky proces është determinist; një model gjenerues do të prodhojë të njëjtën shpërndarje sa herë që fut të njëjtin tekst prompt.

Në fazën e dytë, modeli gjenerues i konverton këto shpërndarje në përgjigje të tekstit aktual përmes një prej disa strategjive të dekodimit. Një strategji e thjeshtë dekodimi mund të zgjedhë tokenin më të mundshëm në çdo hap kohor. Ky proces do të ishte gjithmonë determinist. Sidoqoftë, në vend të kësaj, ju mund të zgjidhni të gjeneroni një përgjigje duke marrë kampione të rastësishme mbi shpërndarjen e kthyer nga modeli. Ky proces do të ishte stokastik (i rastësishëm). Kontrolloni shkallën e rastësisë së lejuar në këtë proces dekodimi duke vendosur temperaturën. Një temperaturë prej 0 do të thotë se janë zgjedhur vetëm shenjat më të mundshme dhe nuk ka rastësi. Anasjelltas, një temperaturë e lartë injekton një shkallë të lartë rastësie në shenjat e zgjedhura nga modeli, duke çuar në përgjigje më të papritura dhe befasuese të modelit.

Hapat e ardhshëm