নিরাপত্তা সেটিংস

Gemini API নিরাপত্তা সেটিংস প্রদান করে যা আপনি প্রোটোটাইপিং স্টেজে অ্যাডজাস্ট করতে পারেন। এর মাধ্যমে আপনি নির্ধারণ করতে পারবেন যে আপনার অ্যাপ্লিকেশনের জন্য আরও বেশি বা কম বিধিনিষেধযুক্ত নিরাপত্তা কনফিগারেশন প্রয়োজন কিনা। নির্দিষ্ট ধরনের কন্টেন্ট সীমিত বা অনুমোদন করতে, আপনি ফিল্টার বিভাগ জুড়ে এইসব সেটিংস অ্যাডজাস্ট করতে পারবেন।

এই নির্দেশিকায় কোনও ইন্টার‍্যাকশনে কীভাবে নিরাপত্তা সেটিংস সেট করতে হয়, কন্টেন্ট ব্লক করা হলে কী হয় এবং আপনি কোন কোন বিভাগ ও থ্রেশহোল্ড ব্যবহার করতে পারবেন সেই সম্পর্কে আলোচনা করা হয়েছে।

নিরাপত্তা সেটিংস সেট করা

আপনি কোনও ইন্টার‍্যাকশন তৈরি করার সময় safety_settings-এর তালিকা পাস করুন। প্রতিটি সেটিং ক্ষতির বিভাগ (type) এবং ব্লক থ্রেশহোল্ড (threshold) একসাথে দেখায়।

নিম্নলিখিত উদাহরণে ঘৃণাত্মক বক্তব্যের (hate_speech) বিভাগকে block_low_and_above-এ সেট করা হয়েছে, যা ঘৃণাত্মক বক্তব্য হওয়ার কম বা বেশি সম্ভাবনা আছে এমন যেকোনও কন্টেন্টকে ব্লক করে:

from google import genai

client = genai.Client()

interaction = client.interactions.create(
    model="gemini-3.8-flash",
    input="Some potentially unsafe prompt.",
    safety_settings=[
        {
            "type": "hate_speech",
            "threshold": "block_low_and_above",
        }
    ],
)

print(interaction.output_text)

import { GoogleGenAI } from "@google/genai";

const ai = new GoogleGenAI({});

async function main() {
  const interaction = await ai.interactions.create({
    model: "gemini-3.8-flash",
    input: "Some potentially unsafe prompt.",
    safety_settings: [
      {
        type: "hate_speech",
        threshold: "block_low_and_above",
      },
    ],
  });
  console.log(interaction.output_text);
}

await main();

import com.google.genai.Client;
import com.google.genai.gaos.models.interactions.CreateModelInteraction;
import com.google.genai.gaos.models.interactions.HarmCategory;
import com.google.genai.gaos.models.interactions.Interaction;
import com.google.genai.gaos.models.interactions.InteractionsInput;
import com.google.genai.gaos.models.interactions.Model;
import com.google.genai.gaos.models.interactions.SafetySetting;
import com.google.genai.gaos.models.interactions.Threshold;
import com.google.genai.gaos.models.operations.CreateInteractionRequestBody;
import java.util.List;

Client client = new Client();

SafetySetting hateSpeechSafety =
    SafetySetting.builder()
        .type(HarmCategory.HATE_SPEECH)
        .threshold(Threshold.BLOCK_LOW_AND_ABOVE)
        .build();

CreateModelInteraction params =
    CreateModelInteraction.builder()
        .model(Model.of("gemini-3.8-flash"))
        .input(InteractionsInput.of("Some potentially unsafe prompt."))
        .safetySettings(List.of(hateSpeechSafety))
        .build();

Interaction interaction =
    client.interactions.create(CreateInteractionRequestBody.of(params)).interaction().get();

System.out.println(interaction.outputText().orElse(""));

package main

import (
    "context"
    "fmt"
    "log"

    "google.golang.org/genai"
    "google.golang.org/genai/interactions/models/interactions"
    "google.golang.org/genai/interactions/models/operations"
)

func main() {
    ctx := context.Background()
    client, err := genai.NewClient(ctx, nil)
    if err != nil {
        log.Fatal(err)
    }

    res, err := client.Interactions.Create(ctx, operations.CreateInteractionRequest{
        Body: operations.NewCreateInteractionRequestBody(interactions.CreateModelInteraction{
            Model: interactions.Model("gemini-3.8-flash"),
            Input: interactions.NewInteractionsInput("Some potentially unsafe prompt."),
            SafetySettings: []interactions.SafetySetting{
                {
                    Type:      interactions.HarmCategoryHateSpeech,
                    Threshold: interactions.ThresholdBlockLowAndAbove,
                },
            },
        }),
    })
    if err != nil {
        log.Fatal(err)
    }

    if res.Interaction.OutputText != nil {
        fmt.Println(*res.Interaction.OutputText)
    }
}

curl -X POST "https://generativelanguage.googleapis.com/v1beta/interactions" \
  -H "x-goog-api-key: $GEMINI_API_KEY" \
  -H 'Content-Type: application/json' \
  -H "Api-Revision: 2026-05-20" \
  -d '{
    "model": "gemini-3.8-flash",
    "input": "Some potentially unsafe prompt.",
    "safety_settings": [
      {"type": "hate_speech", "threshold": "block_low_and_above"}
    ]
  }'

আপনি বিভাগ পিছু একটি সেটিং যোগ করতে পারবেন। আপনি সেট করেননি এমন বিভাগ ডিফল্ট থ্রেশহোল্ড ব্যবহার করে, যা Gemini 2.5 এবং পরবর্তী মডেলের জন্য বন্ধ থাকে।

কন্টেন্ট ব্লক করা হলে

কোনও নিরাপত্তা ফিল্টার ইনপুট বা মডেলের উত্তর ব্লক করলে, ইন্টার‍্যাকশন HTTP 400 সমস্যার সাথে ব্যর্থ হয়। ব্লক করা কন্টেন্ট ফিরিয়ে আনা হয় না।

অনুরোধটি কেন ব্লক করা হয়েছে তা code সমস্যা থেকে জানতে পারবেন:

• safety: নিরাপত্তা ফিল্টার ইনপুট বা উত্তর ব্লক করেছে।
• jailbreak, prohibited_content অথবা blocklist: সেই কারণে ইনপুট ব্লক করা হয়েছে। সমস্যা message, Input blocked: দিয়ে শুরু হয়।

যেমন:

{
  "error": {
    "code": "safety",
    "message": "Request blocked due to safety violations (harmful content). Please modify your input and retry."
  }
}

ব্যাকগ্রাউন্ড ইন্টার‍্যাকশনের (background=true) জন্য, ইন্টার‍্যাকশনের status failed-এ সেট করা আছে এবং একই code ও message এর errors তালিকায় দেখা যায়। স্ট্রিমিংয়ের সময়, error ইভেন্ট হিসেবে সমস্যাটি দেখা যায়।

নিরাপত্তা ফিল্টার

Gemini API-এর অ্যাডজাস্ট করা যায় এমন নিরাপত্তা ফিল্টার নিম্নলিখিত বিভাগগুলি কভার করে:

আপনার ব্যবহারের ক্ষেত্রে কী উপযুক্ত তা অ্যাডজাস্ট করতে আপনি এইসব ফিল্টার ব্যবহার করতে পারবেন। যেমন, আপনি যদি ভিডিও গেমের সংলাপ তৈরি করেন, তাহলে গেমের প্রকৃতির কারণে বিপজ্জনক হিসেবে রেট করা আরও কন্টেন্ট অনুমতি দেওয়া গ্রহণযোগ্য বলে মনে করতে পারেন।

সামঞ্জস্যযোগ্য নিরাপত্তা ফিল্টার ছাড়াও, Gemini API-তে অন্তর্নির্মিত সুরক্ষা ব্যবস্থা আছে যা মূল ক্ষতি থেকে রক্ষা করে। যেমন, এমন কন্টেন্ট যা শিশুদের নিরাপত্তা বিপন্ন করে। এই ধরনের ক্ষতি সবসময় ব্লক করা হয় এবং তা অ্যাডজাস্ট করা যায় না।

ব্লক থ্রেশহোল্ড

মডেলের সহজাত নিরাপত্তার কারণে, অতিরিক্ত ফিল্টার ডিফল্ট হিসেবে বন্ধ থাকে। ডিফল্ট মডেলের আচরণ বেশিরভাগ ব্যবহারের ক্ষেত্রে কভার করে, তাই আপনার অ্যাপ্লিকেশনের জন্য ক্রমাগত প্রয়োজন হলেই শুধুমাত্র এই সেটিংস অ্যাডজাস্ট করা উচিত।

নিচের সারণীতে প্রতিটি বিভাগের জন্য আপনি যে থ্রেশহোল্ড সেট করতে পারবেন তার বিবরণ দেওয়া হয়েছে। যেমন, আপনি যদি ঘৃণাত্মক বক্তব্য কিছু ব্লক করুন (block_only_high) হিসেবে সেট করেন, তাহলে ঘৃণাত্মক বক্তব্য হওয়ার সম্ভাবনা বেশি এমন কন্টেন্ট ব্লক করা হয় এবং সম্ভাবনা কম এমন কন্টেন্ট দেখানোর অনুমতি দেওয়া হয়।

সম্ভাবনা বনাম তীব্রতা

Gemini API কন্টেন্ট অসুরক্ষিত হওয়ার সম্ভাবনাকে বেশি, মাঝারি, কম বা নগণ্য হিসেবে রেট করে। এটি সেই সম্ভাবনার ভিত্তিতে কন্টেন্ট ব্লক করে, ক্ষতির তীব্রতার ভিত্তিতে নয়। কিছু কন্টেন্ট অসুরক্ষিত হওয়ার সম্ভাবনা কম হলেও তার থেকে গুরুতর ক্ষতি হতে পারে। যেমন, এই বাক্যগুলির তুলনা করুন:

1. রোবটটি আমাকে ঘুষি মেরেছে।
2. রোবটটা আমাকে কেটে টুকরো টুকরো করে দিয়েছে।

প্রথম বাক্যটি অসুরক্ষিত হওয়ার সম্ভাবনা বেশি হতে পারে, তবে আপনি দ্বিতীয়টিকে আরও গুরুতর বলে বিবেচনা করতে পারেন। ব্যবহারকারীর ক্ষতি না করে আপনার ব্যবহারের ক্ষেত্রে উপযুক্ত ব্লকিংয়ের লেভেল খুঁজে পেতে সতর্কতার সাথে পরীক্ষা করুন।

Google AI Studio-তে নিরাপত্তা সেটিংস অ্যাডজাস্ট করা

নিরাপত্তা সেটিংস মোডাল খুলতে, রান সেটিংস প্যানেলে উন্নত সেটিংস-এর অধীনে নিরাপত্তা সেটিংস বিকল্পে ক্লিক করুন। মডেলের মধ্যে, আপনি নিরাপত্তা বিভাগ অনুযায়ী কন্টেন্ট ফিল্টারিং লেভেল অ্যাডজাস্ট করতে স্লাইডার ব্যবহার করতে পারবেন:

আপনি কোনও অনুরোধ পাঠালে (যেমন, মডেলকে কোনও প্রশ্ন জিজ্ঞাসা করে), অনুরোধের কন্টেন্ট ব্লক করা থাকলে, একটি warning কন্টেন্ট ব্লক করা হয়েছে মেসেজ দেখানো হয়। আরও বিবরণ দেখতে, কন্টেন্ট ব্লক করা হয়েছে টেক্সটের উপর পয়েন্টার ধরে রেখে বিভাগ ও ক্ষতির সম্ভাবনা সংক্রান্ত শ্রেণীবিন্যাস দেখুন।

পরবর্তী ধাপ

• সম্পূর্ণ API সম্পর্কে আরও জানতে Interactions API রেফারেন্স দেখুন।
• LLM-এর সাহায্যে ডেভেলপ করার সময় নিরাপত্তা সংক্রান্ত বিষয়গুলি সাধারণভাবে পর্যালোচনা করতে নিরাপত্তা সংক্রান্ত নির্দেশিকা দেখুন।
• Jigsaw টিম-এর থেকে সম্ভাব্যতা বনাম তীব্রতা মূল্যায়ন করা সম্পর্কে আরও জানুন।
• নিরাপত্তা সংক্রান্ত সমাধান প্রদান করে এমন প্রোডাক্ট সম্পর্কে আরও জানুন, যেমন পার্সপেক্টিভ API.