Kuptimi i videos

Për të mësuar rreth gjenerimit të videove, shihni udhëzuesin Gemini Omni Flash .

Modelet Gemini mund të përpunojnë video, duke mundësuar shumë raste përdorimi të zhvilluesve të nivelit të lartë që historikisht do të kishin kërkuar modele specifike për domenin. Disa nga aftësitë e vizionit të Gemini përfshijnë aftësinë për të: përshkruar, segmentuar dhe nxjerrë informacion nga videot, për t'iu përgjigjur pyetjeve në lidhje me përmbajtjen e videos dhe për t'iu referuar afateve kohore specifike brenda një videoje.

Ju mund të ofroni video si të dhëna për Binjakët në mënyrat e mëposhtme:

Metoda e hyrjes Madhësia maksimale Rast përdorimi i rekomanduar
API-ja e skedarëve 20GB (me pagesë) / 2GB (falas) Skedarë të mëdhenj (100MB+), video të gjata (10min+), skedarë të ripërdorshëm.
Regjistrimi i ruajtjes në renë kompjuterike 2 GB (për skedar, pa kufizime ruajtjeje) Skedarë të mëdhenj (100MB+), video të gjata (10min+), skedarë të përhershëm, të ripërdorshëm.
Të dhëna të integruara < 100MB Skedarë të vegjël (<100MB), kohëzgjatje e shkurtër (<1min), hyrje të vetme.
URL-të e YouTube-it N/A Video publike në YouTube.

Shënim: API-ja e skedarëve rekomandohet për shumicën e rasteve të përdorimit, veçanërisht për skedarët më të mëdhenj se 100 MB ose kur dëshironi ta ripërdorni skedarin në kërkesa të shumëfishta.

Për të mësuar rreth metodave të tjera të futjes së skedarëve, siç është përdorimi i URL-ve të jashtme ose skedarëve të ruajtur në Google Cloud, shihni udhëzuesin e metodave të futjes së skedarëve .

Ngarko një skedar videoje

Kodi i mëposhtëm shkarkon një video shembull, e ngarkon atë duke përdorur API-n e Skedarëve , pret që të përpunohet dhe më pas përdor referencën e skedarit të ngarkuar për të përmbledhur videon.

Python 

from google import genai

client = genai.Client()

myfile = client.files.upload(file="path/to/sample.mp4")

response = client.models.generate_content(
    model="gemini-3.8-flash", contents=[myfile, "Summarize this video. Then create a quiz with an answer key based on the information in this video."]
)

print(response.text)

JavaScript 

import {
  GoogleGenAI,
  createUserContent,
  createPartFromUri,
} from "@google/genai";

const ai = new GoogleGenAI({});

async function main() {
  const myfile = await ai.files.upload({
    file: "path/to/sample.mp4",
    config: { mimeType: "video/mp4" },
  });

  const response = await ai.models.generateContent({
    model: "gemini-3.8-flash",
    contents: createUserContent([
      createPartFromUri(myfile.uri, myfile.mimeType),
      "Summarize this video. Then create a quiz with an answer key based on the information in this video.",
    ]),
  });
  console.log(response.text);
}

await main();

Shko 

uploadedFile, _ := client.Files.UploadFromPath(ctx, "path/to/sample.mp4", nil)

parts := []*genai.Part{
    genai.NewPartFromText("Summarize this video. Then create a quiz with an answer key based on the information in this video."),
    genai.NewPartFromURI(uploadedFile.URI, uploadedFile.MIMEType),
}

contents := []*genai.Content{
    genai.NewContentFromParts(parts, genai.RoleUser),
}

result, _ := client.Models.GenerateContent(
    ctx,
    "gemini-3.8-flash",
    contents,
    nil,
)

fmt.Println(result.Text())

PUSHTIM 

VIDEO_PATH="path/to/sample.mp4"
MIME_TYPE=$(file -b --mime-type "${VIDEO_PATH}")
NUM_BYTES=$(wc -c < "${VIDEO_PATH}")
DISPLAY_NAME=VIDEO

tmp_header_file=upload-header.tmp

echo "Starting file upload..."
curl "https://generativelanguage.googleapis.com/upload/v1beta/files" \
  -H "x-goog-api-key: $GEMINI_API_KEY" \
  -D ${tmp_header_file} \
  -H "X-Goog-Upload-Protocol: resumable" \
  -H "X-Goog-Upload-Command: start" \
  -H "X-Goog-Upload-Header-Content-Length: ${NUM_BYTES}" \
  -H "X-Goog-Upload-Header-Content-Type: ${MIME_TYPE}" \
  -H "Content-Type: application/json" \
  -d "{'file': {'display_name': '${DISPLAY_NAME}'}}" 2> /dev/null

upload_url=$(grep -i "x-goog-upload-url: " "${tmp_header_file}" | cut -d" " -f2 | tr -d "\r")
rm "${tmp_header_file}"

echo "Uploading video data..."
curl "${upload_url}" \
  -H "Content-Length: ${NUM_BYTES}" \
  -H "X-Goog-Upload-Offset: 0" \
  -H "X-Goog-Upload-Command: upload, finalize" \
  --data-binary "@${VIDEO_PATH}" 2> /dev/null > file_info.json

file_uri=$(jq -r ".file.uri" file_info.json)
echo file_uri=$file_uri

echo "File uploaded successfully. File URI: ${file_uri}"

# --- 3. Generate content using the uploaded video file ---
echo "Generating content from video..."
curl "https://generativelanguage.googleapis.com/v1beta/models/gemini-3.8-flash:generateContent" \
    -H "x-goog-api-key: $GEMINI_API_KEY" \
    -H 'Content-Type: application/json' \
    -X POST \
    -d '{
      "contents": [{
        "parts":[
          {"file_data":{"mime_type": "'"${MIME_TYPE}"'", "file_uri": "'"${file_uri}"'"}},
          {"text": "Summarize this video. Then create a quiz with an answer key based on the information in this video."}]
        }]
      }' 2> /dev/null > response.json

jq -r ".candidates[].content.parts[].text" response.json

Përdorni gjithmonë API-në e Skedarëve kur madhësia totale e kërkesës (duke përfshirë skedarin, kërkesën me tekst, udhëzimet e sistemit, etj.) është më e madhe se 20 MB, kohëzgjatja e videos është e konsiderueshme ose nëse keni ndërmend të përdorni të njëjtën video në kërkesa të shumta. API-ja e Skedarëve pranon drejtpërdrejt formatet e skedarëve video.

Për të mësuar më shumë rreth punës me skedarët mediatikë, shihni API-n e Skedarëve .

Kaloni të dhënat e videos në linjë

Në vend që të ngarkoni një skedar video duke përdorur File API, mund të kaloni video më të vogla direkt në kërkesë për generateContent . Kjo është e përshtatshme për video më të shkurtra me madhësi totale kërkese nën 20MB.

Ja një shembull i ofrimit të të dhënave video të integruara:

Python 

from google import genai
from google.genai import types

# Only for videos of size <20Mb
video_file_name = "/path/to/your/video.mp4"
video_bytes = open(video_file_name, 'rb').read()

client = genai.Client()
response = client.models.generate_content(
    model='gemini-3.8-flash',
    contents=types.Content(
        parts=[
            types.Part(
                inline_data=types.Blob(data=video_bytes, mime_type='video/mp4')
            ),
            types.Part(text='Please summarize the video in 3 sentences.')
        ]
    )
)
print(response.text)

JavaScript 

import { GoogleGenAI } from "@google/genai";
import * as fs from "node:fs";

const ai = new GoogleGenAI({});
const base64VideoFile = fs.readFileSync("path/to/small-sample.mp4", {
  encoding: "base64",
});

const contents = [
  {
    inlineData: {
      mimeType: "video/mp4",
      data: base64VideoFile,
    },
  },
  { text: "Please summarize the video in 3 sentences." }
];

const response = await ai.models.generateContent({
  model: "gemini-3.8-flash",
  contents: contents,
});
console.log(response.text);

PUSHTIM

VIDEO_PATH=/path/to/your/video.mp4

if [[ "$(base64 --version 2>&1)" = *"FreeBSD"* ]]; then
  B64FLAGS="--input"
else
  B64FLAGS="-w0"
fi

curl "https://generativelanguage.googleapis.com/v1beta/models/gemini-3.8-flash:generateContent" \
    -H "x-goog-api-key: $GEMINI_API_KEY" \
    -H 'Content-Type: application/json' \
    -X POST \
    -d '{
      "contents": [{
        "parts":[
            {
              "inline_data": {
                "mime_type":"video/mp4",
                "data": "'$(base64 $B64FLAGS $VIDEO_PATH)'"
              }
            },
            {"text": "Please summarize the video in 3 sentences."}
        ]
      }]
    }' 2> /dev/null

URL-të e YouTube-it të kalimit

Ju mund t'i kaloni URL-të e YouTube direkt te Gemini API si pjesë e kërkesës suaj si më poshtë:

Python 

from google import genai
from google.genai import types

client = genai.Client()
response = client.models.generate_content(
    model='gemini-3.8-flash',
    contents=types.Content(
        parts=[
            types.Part(
                file_data=types.FileData(file_uri='https://www.youtube.com/watch?v=9hE5-98ZeCg')
            ),
            types.Part(text='Please summarize the video in 3 sentences.')
        ]
    )
)
print(response.text)

JavaScript 

import { GoogleGenAI } from "@google/genai";

const ai = new GoogleGenAI({});

const contents = [
  {
    fileData: {
      fileUri: "https://www.youtube.com/watch?v=9hE5-98ZeCg",
    },
  },
  { text: "Please summarize the video in 3 sentences." }
];

const response = await ai.models.generateContent({
  model: "gemini-3.8-flash",
  contents: contents,
});
console.log(response.text);

Shko 

package main

import (
  "context"
  "fmt"
  "os"
  "google.golang.org/genai"
)

func main() {
  ctx := context.Background()
  client, err := genai.NewClient(ctx, nil)
  if err != nil {
      log.Fatal(err)
  }

  parts := []*genai.Part{
      genai.NewPartFromText("Please summarize the video in 3 sentences."),
      genai.NewPartFromURI("https://www.youtube.com/watch?v=9hE5-98ZeCg","video/mp4"),
  }

  contents := []*genai.Content{
      genai.NewContentFromParts(parts, genai.RoleUser),
  }

  result, _ := client.Models.GenerateContent(
      ctx,
      "gemini-3.8-flash",
      contents,
      nil,
  )

  fmt.Println(result.Text())
}

PUSHTIM 

curl "https://generativelanguage.googleapis.com/v1beta/models/gemini-3.8-flash:generateContent" \
    -H "x-goog-api-key: $GEMINI_API_KEY" \
    -H 'Content-Type: application/json' \
    -X POST \
    -d '{
      "contents": [{
        "parts":[
            {"text": "Please summarize the video in 3 sentences."},
            {
              "file_data": {
                "file_uri": "https://www.youtube.com/watch?v=9hE5-98ZeCg"
              }
            }
        ]
      }]
    }' 2> /dev/null

Kufizime:

  • Për nivelin falas, nuk mund të ngarkoni më shumë se 8 orë video në YouTube në ditë.
  • Për nivelin me pagesë, nuk ka kufij bazuar në gjatësinë e videos.
  • Për modelet para Gemini 2.5, mund të ngarkoni vetëm 1 video për kërkesë. Për modelet Gemini 2.5 dhe më të reja, mund të ngarkoni maksimumi 10 video për kërkesë.
  • Mund të ngarkoni vetëm video publike (jo video private ose të palistuara).

Kuptimi i videos së agjentit

Si parazgjedhje, hyrjet e videos përdorin përpunim statik (nxjerrjen e kuadrove me 1 FPS). Modelet Gemini 3.8 Flash, 3.7 Flash, 3.6 Flash dhe 3.5 Flash Lite mbështesin gjithashtu kuptimin e videos agjentike , ku modeli eksploron dinamikisht vijën kohore të videos, duke inspektuar në mënyrë selektive transkriptet dhe duke rregulluar në mënyrë adaptive shpejtësinë e kuadrove dhe rezolucionin në lëvizje bazuar në kërkesën.

Modaliteti Përshkrimi Modelet e mbështetura
Statik (parazgjedhur) Nxjerr kuadro me një shpejtësi fikse (1 FPS) dhe i vendos ato në kontekst me një kalim të vetëm. Funksionon mirë për klipe të shkurtra. Të gjitha modelet Gemini
Agjent Modeli lundron në mënyrë dinamike në vijën kohore të videos, duke ngarkuar vetëm përmbajtjen që i nevojitet bazuar në njoftim. Deri në 88% më efikase me tokenët dhe ~7% cilësi më e lartë në përmbajtjen e gjatë. Blic Gemini 3.8, Blic 3.7, Blic 3.6, Blic 3.5 Lite

Zgjidhni një modalitet përpunimi

Si udhëzues i përgjithshëm, filloni me modalitetin agjent , veçanërisht kur optimizoni për cilësinë e përgjigjes ose efikasitetin e token-ave.

  • Agjent: Video ose pyetje të gjata që synojnë momente specifike. Modeli lundron në mënyrë dinamike në vijën kohore për të synuar informacione të rëndësishme kontekstuale pa mbushur dritaren e kontekstit.
  • Statik: Pyetje të ndjeshme ndaj vonesës në klipe të shkurtra (nën 5 minuta), ose raste kur nevojitet precizion në nivel kuadri në të gjithë klipin.

Shënim: Për video të gjata ose kërkesa komplekse ku përpunimi agjentik kërkon më shumë kohë, përdorni transmetimin ( client.models.generate_content_stream ). Kjo e mban lidhjen aktive, nxjerr në pah hapat e ndërmjetëm të arsyetimit dhe shmang skadimin e kohës së lidhjes ose të vërtetimit.

Vendosni modalitetin e përpunimit

Python 

import time
from google import genai
from google.genai import types

client = genai.Client()

video_file = client.files.upload(file="path/to/lecture.mp4")

while video_file.state.name == "PROCESSING":
    time.sleep(2)
    video_file = client.files.get(name=video_file.name)

response = client.models.generate_content(
    model="gemini-3.8-flash",
    contents=[
        types.Part.from_uri(
            file_uri=video_file.uri,
            mime_type=video_file.mime_type,
            media_processing="AGENTIC",
        ),
        "What are the three main arguments presented?",
    ],
)
print(response.text)

JavaScript 

import { GoogleGenAI } from "@google/genai";

const ai = new GoogleGenAI({});

let videoFile = await ai.files.upload({
  file: "path/to/lecture.mp4",
  config: { mimeType: "video/mp4" },
});

while (videoFile.state === "PROCESSING") {
  await new Promise((resolve) => setTimeout(resolve, 2000));
  videoFile = await ai.files.get({ name: videoFile.name });
}

const response = await ai.models.generateContent({
  model: "gemini-3.8-flash",
  contents: [
    {
      role: "user",
      parts: [
        {
          fileData: {
            fileUri: videoFile.uri,
            mimeType: videoFile.mimeType,
          },
          mediaProcessing: "AGENTIC",
        },
        { text: "What are the three main arguments presented?" },
      ],
    },
  ],
});
console.log(response.text);

Shko 

uploadedFile, _ := client.Files.UploadFromPath(ctx, "path/to/lecture.mp4", nil)
parts := []*genai.Part{
    {
        FileData: &genai.FileData{
            FileURI:  uploadedFile.URI,
            MIMEType: uploadedFile.MIMEType,
        },
        MediaProcessing: genai.MediaProcessingAgentic,
    },
    genai.NewPartFromText("What are the three main arguments presented?"),
}
contents := []*genai.Content{
    genai.NewContentFromParts(parts, genai.RoleUser),
}
result, _ := client.Models.GenerateContent(
    ctx,
    "gemini-3.8-flash",
    contents,
    nil,
)
fmt.Println(result.Text())

PUSHTIM 

curl "https://generativelanguage.googleapis.com/v1beta/models/gemini-3.8-flash:generateContent?key=$GEMINI_API_KEY" \
  -H 'Content-Type: application/json' \
  -d '{
    "contents": [{
      "parts": [
        {
          "file_data": {
            "file_uri": "'${file_uri}'",
            "mime_type": "video/mp4"
          },
          "media_processing": "AGENTIC"
        },
        {"text": "What are the three main arguments presented?"}
      ]
    }]
  }'

Shënim: Për të verifikuar që është përdorur përpunimi agjentik, inspektoni response.candidates[0].content.parts . Prania e pjesëve tool_call dhe tool_response me llojin e mjetit MEDIA_PROCESSING tregon që modeli ka lundruar në video në mënyrë dinamike.

Shënim: Ndryshe nga mjetet e tjera të serverit (siç është Kërkimi në Google ose konteksti i URL-së), videoja agjentike nuk kërkon caktimin e include_server_side_tool_invocations=True në ToolConfig që thirrjet e mjeteve dhe rezultatet të kthehen ose transmetohen. Pjesët tool_call dhe tool_response për navigimin e videos kthehen automatikisht kur media_processing="AGENTIC" caktohet në çdo pjesë hyrëse.

Struktura e përgjigjes

Kur përpunimi i agjentëve është i aktivizuar, përgjigjja përfshin pjesë shtesë që ekspozojnë gjurmën e navigimit të brendshëm:

  • tool_call parts ( tool_type: "MEDIA_PROCESSING" ): emetohet çdo herë që modeli kërkon një segment video ose transkript audio.
  • pjesët tool_response ( tool_type: "MEDIA_PROCESSING" ): rezultati i çdo operacioni ngarkimi.

Nuk keni nevojë t’i trajtoni ose t’u përgjigjeni këtyre pjesëve manualisht: kalojeni përgjigjen e plotë si historik bisedash dhe ato trajtohen automatikisht.

Nëse include_thoughts=True është vendosur në ThinkingConfig , hapat e arsyetimit shfaqen si thought: true të ndërthurura me çiftet thirrje/përgjigje të mjetit. Me mendimet e çaktivizuara, teksti i mendimit lihet jashtë, por pjesët e mjetit janë ende të pranishme.

Shembulli i mëposhtëm tregon ngarkesën e përgjigjes me thirrjen e mjetit dhe pjesët e përgjigjes të ndërthurura: 

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "thought": true,
            "text": "Inspecting transcript for key discussion topics..."
          },
          {
            "thought_signature": "sig_A",
            "tool_call": {
              "tool_type": "MEDIA_PROCESSING"
            }
          },
          {
            "thought_signature": "sig_B",
            "tool_response": {
              "tool_type": "MEDIA_PROCESSING"
            }
          },
          {
            "thought": true,
            "text": "Loading visual frames to verify slide content..."
          },
          {
            "thought_signature": "sig_C",
            "tool_call": {
              "tool_type": "MEDIA_PROCESSING"
            }
          },
          {
            "thought_signature": "sig_D",
            "tool_response": {
              "tool_type": "MEDIA_PROCESSING"
            }
          },
          {
            "thought": true,
            "text": "Synthesizing answer from gathered evidence..."
          },
          {
            "text": "The three main arguments presented in the lecture are...",
            "thought_signature": "sig_E"
          }
        ]
      }
    }
  ]
}

Kombinoni mënyrat e përpunimit në të gjitha videot

Mund të caktoni mënyra të ndryshme përpunimi për secilën pjesë të videos në të njëjtën kërkesë:

Python 

from google import genai
from google.genai import types

client = genai.Client()

lecture = client.files.upload(file="path/to/long-lecture.mp4")
experiment = client.files.upload(file="path/to/short-experiment.mp4")

response = client.models.generate_content(
    model="gemini-3.8-flash",
    contents=[
        types.Part.from_uri(
            file_uri=lecture.uri,
            mime_type=lecture.mime_type,
            media_processing="AGENTIC",  # Use agentic video understanding
        ),
        types.Part.from_uri(
            file_uri=experiment.uri,
            mime_type=experiment.mime_type,
            media_processing="STATIC",  # Use static processing
        ),
        "Compare the lecture content with the experiment results.",
    ],
)
print(response.text)

JavaScript 

import { GoogleGenAI } from "@google/genai";

const ai = new GoogleGenAI({});

const lecture = await ai.files.upload({
  file: "path/to/long-lecture.mp4",
  config: { mimeType: "video/mp4" },
});
const experiment = await ai.files.upload({
  file: "path/to/short-experiment.mp4",
  config: { mimeType: "video/mp4" },
});

const response = await ai.models.generateContent({
  model: "gemini-3.8-flash",
  contents: [
    {
      role: "user",
      parts: [
        {
          fileData: {
            fileUri: lecture.uri,
            mimeType: lecture.mimeType,
          },
          mediaProcessing: "AGENTIC", // Use agentic video understanding
        },
        {
          fileData: {
            fileUri: experiment.uri,
            mimeType: experiment.mimeType,
          },
          mediaProcessing: "STATIC", // Use static processing
        },
        { text: "Compare the lecture content with the experiment results." },
      ],
    },
  ],
});
console.log(response.text);

Shko 

lecturePart := &genai.Part{
    FileData: &genai.FileData{
        FileURI:  lectureFile.URI,
        MIMEType: lectureFile.MIMEType,
    },
    MediaProcessing: genai.MediaProcessingAgentic, // Use agentic
}
experimentPart := &genai.Part{
    FileData: &genai.FileData{
        FileURI:  experimentFile.URI,
        MIMEType: experimentFile.MIMEType,
    },
    MediaProcessing: genai.MediaProcessingStatic, // Use static
}
parts := []*genai.Part{
    lecturePart,
    experimentPart,
    genai.NewPartFromText("Compare the lecture content with the experiment results."),
}
contents := []*genai.Content{
    genai.NewContentFromParts(parts, genai.RoleUser),
}
result, _ := client.Models.GenerateContent(ctx, "gemini-3.8-flash", contents, nil)
fmt.Println(result.Text())

PUSHTIM 

curl "https://generativelanguage.googleapis.com/v1beta/models/gemini-3.8-flash:generateContent?key=$GEMINI_API_KEY" \
  -H 'Content-Type: application/json' \
  -d '{
    "contents": [{
      "parts": [
        {
          "file_data": {
            "file_uri": "'${lecture_uri}'",
            "mime_type": "video/mp4"
          },
          "media_processing": "AGENTIC"
        },
        {
          "file_data": {
            "file_uri": "'${experiment_uri}'",
            "mime_type": "video/mp4"
          },
          "media_processing": "STATIC"
        },
        {"text": "Compare the lecture content with the experiment results."}
      ]
    }]
  }'

Përdorni ruajtjen në memorje të kontekstit për video të gjata

Për videot më të gjata se 10 minuta, ose kur planifikoni të bëni kërkesa të shumëfishta kundër të njëjtit skedar video, përdorni ruajtjen në memorje kontekstuale për të ulur kostot dhe për të përmirësuar vonesën. Ruajtja në memorje kontekstuale ju lejon të përpunoni videon një herë dhe të ripërdorni tokenët për pyetjet pasuese, duke e bërë atë ideal për seanca bisede ose analiza të përsëritura të përmbajtjes me format të gjatë.

Referojuni vulave kohore në përmbajtje

Mund të bësh pyetje në lidhje me pika specifike kohore brenda videos duke përdorur vula kohore të formës MM:SS .

Python 

prompt = "What are the examples given at 00:05 and 00:10 supposed to show us?" # Adjusted timestamps for the NASA video

JavaScript 

const prompt = "What are the examples given at 00:05 and 00:10 supposed to show us?";

Shko 

    prompt := []*genai.Part{
        genai.NewPartFromURI(currentVideoFile.URI, currentVideoFile.MIMEType),
          // Adjusted timestamps for the NASA video
        genai.NewPartFromText("What are the examples given at 00:05 and " +
            "00:10 supposed to show us?"),
    }

PUSHTIM 

PROMPT="What are the examples given at 00:05 and 00:10 supposed to show us?"

Nxirrni të dhëna të hollësishme nga videoja

Modelet Gemini ofrojnë aftësi të fuqishme për të kuptuar përmbajtjen e videos duke përpunuar informacion si nga transmetimet audio ashtu edhe nga ato vizuale . Kjo ju lejon të nxirrni një sërë të pasur detajesh, duke përfshirë gjenerimin e përshkrimeve të asaj që po ndodh në një video dhe përgjigjen e pyetjeve rreth përmbajtjes së saj.

Për përshkrimet vizuale, modeli merr mostra nga videoja me një shpejtësi prej 1 kuadri për sekondë (FPS). Kjo shpejtësi e parazgjedhur e marrjes së mostrave funksionon mirë për shumicën e përmbajtjes, por vini re se mund të humbasë detaje në videot me lëvizje të shpejtë ose ndryshime të shpejta të skenës. Për përmbajtje të tillë me lëvizje të lartë, merrni në konsideratë vendosjen e një shpejtësie të personalizuar të kuadrove .

Python 

prompt = "Describe the key events in this video, providing both audio and visual details. Include timestamps for salient moments."

JavaScript 

const prompt = "Describe the key events in this video, providing both audio and visual details. Include timestamps for salient moments.";

Shko 

    prompt := []*genai.Part{
        genai.NewPartFromURI(currentVideoFile.URI, currentVideoFile.MIMEType),
        genai.NewPartFromText("Describe the key events in this video, providing both audio and visual details. " +
      "Include timestamps for salient moments."),
    }

PUSHTIM 

PROMPT="Describe the key events in this video, providing both audio and visual details. Include timestamps for salient moments."

Personalizo përpunimin e videos

Mund ta personalizoni përpunimin e videos në Gemini API duke vendosur intervale prerjeje ose duke ofruar mostrim të personalizuar të shpejtësisë së kuadrove. Këto opsione personalizimi mbështeten vetëm kur videoja përpunohet në modalitetin "static" .

Cakto intervalet e prerjes

Mund të shkurtosh video duke specifikuar videoMetadata me zhvendosje fillestare dhe mbaruese.

Python 

from google import genai
from google.genai import types

client = genai.Client()
response = client.models.generate_content(
    model='models/gemini-3.8-flash',
    contents=types.Content(
        parts=[
            types.Part(
                file_data=types.FileData(file_uri='https://www.youtube.com/watch?v=XEzRZ35urlk'),
                video_metadata=types.VideoMetadata(
                    start_offset='1250s',
                    end_offset='1570s'
                )
            ),
            types.Part(text='Please summarize the video in 3 sentences.')
        ]
    )
)

JavaScript 

import { GoogleGenAI } from '@google/genai';
const ai = new GoogleGenAI({});
const model = 'gemini-3.8-flash';

async function main() {
const contents = [
  {
    role: 'user',
    parts: [
      {
        fileData: {
          fileUri: 'https://www.youtube.com/watch?v=9hE5-98ZeCg',
          mimeType: 'video/*',
        },
        videoMetadata: {
          startOffset: '40s',
          endOffset: '80s',
        }
      },
      {
        text: 'Please summarize the video in 3 sentences.',
      },
    ],
  },
];

const response = await ai.models.generateContent({
  model,
  contents,
});

console.log(response.text)

}

await main();

Cakto një shpejtësi kuadrosh të personalizuar

Mund të caktoni marrjen e mostrave të shpejtësisë së kuadrove me porosi duke i kaluar një argument fps videoMetadata .

Python 

from google import genai
from google.genai import types

# Only for videos of size <20Mb
video_file_name = "/path/to/your/video.mp4"
video_bytes = open(video_file_name, 'rb').read()

client = genai.Client()
response = client.models.generate_content(
    model='models/gemini-3.8-flash',
    contents=types.Content(
        parts=[
            types.Part(
                inline_data=types.Blob(
                    data=video_bytes,
                    mime_type='video/mp4'),
                video_metadata=types.VideoMetadata(fps=5)
            ),
            types.Part(text='Please summarize the video in 3 sentences.')
        ]
    )
)

Si parazgjedhje, nga videoja merret një mostër prej 1 kuadri për sekondë (FPS). Mund të dëshironi të vendosni një FPS të ulët (< 1) për video të gjata. Kjo është veçanërisht e dobishme për video kryesisht statike (p.sh. leksione). Përdorni një FPS më të lartë për videot që kërkojnë analizë të detajuar kohore, siç është kuptimi i veprimit të shpejtë ose gjurmimi i lëvizjes me shpejtësi të lartë.

Formatet e videos të mbështetura

Gemini mbështet llojet e mëposhtme të formateve MIME të videos:

  • video/mp4
  • video/mpeg
  • video/quicktime
  • video/avi
  • video/x-flv
  • video/mpg
  • video/webm
  • video/wmv
  • video/3gpp

Detajet teknike rreth videove

  • Modelet dhe konteksti i mbështetur : Të gjitha modelet Gemini mund të përpunojnë të dhëna video.
    • Modelet me një dritare konteksti 1M mund të përpunojnë video deri në 3 orë të gjata si parazgjedhje (në rezolucion të ulët të medias) ose deri në 1 orë të gjata në rezolucion të lartë të medias.
  • Modalitetet e përpunimit : Gemini 3.8 Flash, 3.7 Flash, 3.6 Flash, 3.5 Flash Lite dhe modelet e mëvonshme mbështesin dy modalitete të përpunimit të videos:
    • Statik : Kuadrot nxirren me 1 FPS dhe vendosen në kontekst (parazgjedhur për të gjitha modelet). Audio përpunohet me 1Kbps (një kanal i vetëm). Vulat kohore shtohen çdo sekondë. Më e mira për klipe të shkurtra ose kur çdo kuadër ka rëndësi (siç është inspektimi kuadër pas kuadri). Vini re se sekuencat e veprimit të shpejtë mund të humbasin detaje për shkak të shkallës së marrjes së mostrave prej 1 FPS.
    • Agentic : Modeli navigon në mënyrë dinamike videon, duke ngarkuar transkriptin dhe/ose kuadro dhe/ose audio sipas kërkesës. Kjo përdor deri në 88% më pak tokena për përmbajtje të gjatë, megjithëse navigimi mund të rrisë pak Kohën deri te Tokeni i Parë (TTFT) në klipe të shkurtra (<5 minuta) për shkak të arsyetimit të brendshëm dhe udhëtimeve vajtje-ardhje të mjetit para se të fillojë gjenerimi. Përgjigjet përfshijnë thirrjen e mjetit MEDIA_PROCESSING dhe pjesët e përgjigjes për të ruajtur kontekstin e arsyetimit në të gjitha raundet. Më e mira për videot e gjata për të optimizuar kostot e tokenave dhe cilësinë e përgjigjes. Mbështetet në Gemini 3.8 Flash, 3.7 Flash, 3.6 Flash dhe 3.5 Flash Lite. Shihni Kuptimi i videos Agentic për detaje.
  • Llogaritja e tokenëve (modaliteti statik) : Çdo sekondë e videos tokenizohet si më poshtë:
    • Korniza individuale (të marra si mostër në 1 FPS):
      • Nëse media_resolution është vendosur në të ulët, kornizat tokenizohen me 66 tokena për kornizë.
      • Përndryshe, kornizat tokenizohen me 258 tokena për kornizë.
    • Audio: 32 tokena për sekondë.
    • Metadatat janë gjithashtu të përfshira.
    • Totali: Përafërsisht 100 tokenë për sekondë video me rezolucion të parazgjedhur (të ulët) të medias, ose afërsisht 300 tokenë për sekondë video me rezolucion të lartë të medias.
  • Llogaritja e tokenëve (modaliteti agjent) : Përdorimi i tokenëve ndryshon në bazë të kompleksitetit të përmbajtjes dhe strategjisë së navigimit të modelit. Tokenët e arsyetimit të navigimit të gjeneruar gjatë eksplorimit të videos llogariten si tokenë të të menduarit ( thoughts_token_count ), ndërsa kornizat, audioja dhe transkripti i ngarkuar sipas kërkesës llogariten si tokenë të udhëzimeve të mjetit ( tool_use_prompt_token_count ). Përpunimi agjent zakonisht përdor deri në 88% më pak tokenë totalë sesa përpunimi statik për përmbajtje me formë të gjatë, sepse modeli ngarkon vetëm transkriptin dhe/ose kornizat dhe/ose audion që i nevojitet për t'iu përgjigjur kërkesës (shih udhëzuesin e tokenëve ).
  • Rezolucioni i medias : Gemini 3 prezanton kontroll të detajuar mbi përpunimin e vizionit multimodal me parametrin media_resolution . Parametri media_resolution përcakton numrin maksimal të tokenëve të alokuar për imazh hyrës ose kornizë video. Rezolucionet më të larta përmirësojnë aftësinë e modelit për të lexuar tekst të imët ose për të identifikuar detaje të vogla, por rrisin përdorimin e tokenëve dhe vonesën. Parametrat media_resolution dhe media_processing janë të pavarur: mund t'i vendosni të dy në të njëjtën Pjesë video.

Për më shumë detaje mbi llogaritjet e tokenëve, shihni udhëzuesin e tokenëve .

  • Formati i vulës kohore : Kur i referoheni momenteve specifike në një video brenda kërkesës suaj, përdorni formatin MM:SS (p.sh., 01:15 për 1 minutë e 15 sekonda).
  • Vendosja e kërkesës : Nëse kombinoni tekst dhe një video të vetme, vendoseni kërkesën e tekstit pas pjesës së videos në vargun e contents .
  • Afatet e pritjes për kërkesa të gjata : Për videot që kërkojnë kohë të zgjatur përpunimi ose arsyetim kompleks me shumë hapa, përdorni transmetimin ( client.models.generate_content_stream ). Kërkesat sinkrone, jo-transmetuese që përjetojnë ripërpjekje në prapavijë nën kërkesë të lartë mund të tejkalojnë dritaret e vlefshmërisë së tokenit të lidhjes ose të vërtetimit, të cilat mund të shfaqen si gabime të papritura 401 Unauthorized ose të afatit të pritjes. Transmetimi e mban lidhjen aktive dhe nxjerr në pah arsyetimin e ndërmjetëm dhe progresin e thirrjes së mjetit.

Çfarë vjen më pas

  • Rezolucioni i medias : Kontrolloni rezolucionin e kuadrove të videos për të balancuar cilësinë dhe përdorimin e tokenëve.
  • Tokenat : Kuptoni se si tokenizohet përmbajtja video si në modalitetet statike ashtu edhe në ato të përpunimit agjentik.
  • Udhëzimet e sistemit : Udhëzimet e sistemit ju lejojnë të drejtoni sjelljen e modelit bazuar në nevojat dhe rastet tuaja specifike të përdorimit.
  • API-t e skedarëve : Mësoni më shumë rreth ngarkimit dhe menaxhimit të skedarëve për përdorim me Gemini.
  • Strategjitë e nxitjes së skedarëve : API Gemini mbështet nxitjen me të dhëna teksti, imazhi, audio dhe video, të njohura edhe si nxitje multimodale.
  • Udhëzime për sigurinë : Ndonjëherë modelet gjeneruese të IA-së prodhojnë rezultate të papritura, të tilla si rezultate që janë të pasakta, të anshme ose fyese. Përpunimi pasues dhe vlerësimi njerëzor janë thelbësorë për të kufizuar rrezikun e dëmtimit nga rezultate të tilla.