إعدادات الأمن الشخصي

توفّر Gemini API إعدادات أمان يمكنك تعديلها خلال مرحلة إنشاء النماذج الأولية لتحديد ما إذا كان تطبيقك يتطلّب إعدادات أمان أكثر أو أقل تقييدًا. يمكنك تعديل هذه الإعدادات في فئات الفلاتر لتقييد أنواع معيّنة من المحتوى أو السماح بها.

يشرح هذا الدليل كيفية ضبط إعدادات الأمان في تفاعل معيّن، وما يحدث عند حظر المحتوى، والفئات والحدود التي يمكنك استخدامها.

ضبط إعدادات الأمان

يُرجى تمرير قائمة بـ safety_settings عند إنشاء تفاعل. يربط كل إعداد فئة ضرر (type) بحدّ الحظر (threshold).

يضبط المثال التالي فئة الكلام الذي يحض على الكراهية (hate_speech) على block_low_and_above، ما يؤدي إلى حظر أي محتوى لديه احتمال منخفض أو أعلى بأن يكون كلامًا يحض على الكراهية:

from google import genai

client = genai.Client()

interaction = client.interactions.create(
    model="gemini-3.8-flash",
    input="Some potentially unsafe prompt.",
    safety_settings=[
        {
            "type": "hate_speech",
            "threshold": "block_low_and_above",
        }
    ],
)

print(interaction.output_text)

import { GoogleGenAI } from "@google/genai";

const ai = new GoogleGenAI({});

async function main() {
  const interaction = await ai.interactions.create({
    model: "gemini-3.8-flash",
    input: "Some potentially unsafe prompt.",
    safety_settings: [
      {
        type: "hate_speech",
        threshold: "block_low_and_above",
      },
    ],
  });
  console.log(interaction.output_text);
}

await main();

import com.google.genai.Client;
import com.google.genai.gaos.models.interactions.CreateModelInteraction;
import com.google.genai.gaos.models.interactions.HarmCategory;
import com.google.genai.gaos.models.interactions.Interaction;
import com.google.genai.gaos.models.interactions.InteractionsInput;
import com.google.genai.gaos.models.interactions.Model;
import com.google.genai.gaos.models.interactions.SafetySetting;
import com.google.genai.gaos.models.interactions.Threshold;
import com.google.genai.gaos.models.operations.CreateInteractionRequestBody;
import java.util.List;

Client client = new Client();

SafetySetting hateSpeechSafety =
    SafetySetting.builder()
        .type(HarmCategory.HATE_SPEECH)
        .threshold(Threshold.BLOCK_LOW_AND_ABOVE)
        .build();

CreateModelInteraction params =
    CreateModelInteraction.builder()
        .model(Model.of("gemini-3.8-flash"))
        .input(InteractionsInput.of("Some potentially unsafe prompt."))
        .safetySettings(List.of(hateSpeechSafety))
        .build();

Interaction interaction =
    client.interactions.create(CreateInteractionRequestBody.of(params)).interaction().get();

System.out.println(interaction.outputText().orElse(""));

package main

import (
    "context"
    "fmt"
    "log"

    "google.golang.org/genai"
    "google.golang.org/genai/interactions/models/interactions"
    "google.golang.org/genai/interactions/models/operations"
)

func main() {
    ctx := context.Background()
    client, err := genai.NewClient(ctx, nil)
    if err != nil {
        log.Fatal(err)
    }

    res, err := client.Interactions.Create(ctx, operations.CreateInteractionRequest{
        Body: operations.NewCreateInteractionRequestBody(interactions.CreateModelInteraction{
            Model: interactions.Model("gemini-3.8-flash"),
            Input: interactions.NewInteractionsInput("Some potentially unsafe prompt."),
            SafetySettings: []interactions.SafetySetting{
                {
                    Type:      interactions.HarmCategoryHateSpeech,
                    Threshold: interactions.ThresholdBlockLowAndAbove,
                },
            },
        }),
    })
    if err != nil {
        log.Fatal(err)
    }

    if res.Interaction.OutputText != nil {
        fmt.Println(*res.Interaction.OutputText)
    }
}

curl -X POST "https://generativelanguage.googleapis.com/v1beta/interactions" \
  -H "x-goog-api-key: $GEMINI_API_KEY" \
  -H 'Content-Type: application/json' \
  -H "Api-Revision: 2026-05-20" \
  -d '{
    "model": "gemini-3.8-flash",
    "input": "Some potentially unsafe prompt.",
    "safety_settings": [
      {"type": "hate_speech", "threshold": "block_low_and_above"}
    ]
  }'

يمكنك تضمين إعداد واحد لكل فئة. تستخدم الفئات التي لا تضبطها الحدّ التلقائي، وهو إيقاف في Gemini 2.5 والنماذج الأحدث.

عندما يكون المحتوى محظورًا

إذا حظرت إحدى فلاتر الأمان الإدخال أو ردّ النموذج، ستفشل عملية التفاعل مع ظهور الخطأ 400 في بروتوكول نقل الروابط النصية (HTTP). ولا يتم عرض المحتوى المحظور.

يخبرك الخطأ code بسبب حظر الطلب:

• ‫safety: تم حظر الإدخال أو الردّ بواسطة فلتر أمان.
• ‫jailbreak أو prohibited_content أو blocklist: تم حظر الإدخال لهذا السبب. يبدأ الخطأ message بـ Input blocked:.

على سبيل المثال:

{
  "error": {
    "code": "safety",
    "message": "Request blocked due to safety violations (harmful content). Please modify your input and retry."
  }
}

بالنسبة إلى التفاعلات في الخلفية (background=true)، يتم ضبط status التفاعل على failed، ويظهر code وmessage نفسهما في قائمة errors. عند البث، يظهر الخطأ كحدث error.

فلاتر الأمان

تغطي فلاتر الأمان القابلة للضبط في Gemini API الفئات التالية:

ويمكنك استخدام هذه الفلاتر لتعديل ما يناسب حالة الاستخدام. على سبيل المثال، إذا كنت تنشئ حوارًا للعبة فيديو، قد ترى أنّه من المقبول السماح بمزيد من المحتوى الذي تم تصنيفه على أنّه خطير بسبب طبيعة اللعبة.

بالإضافة إلى فلاتر الأمان القابلة للتعديل، تتضمّن Gemini API إجراءات حماية مدمجة ضد الأضرار الأساسية، مثل المحتوى الذي يهدّد سلامة الأطفال. يتم حظر هذه الأنواع من المحتوى الضار دائمًا ولا يمكن تعديلها.

الحدود الدنيا للحظر

بسبب الأمان المتأصّل في النموذج، تكون الفلاتر الإضافية غير مفعَّلة تلقائيًا. يغطي السلوك التلقائي للنموذج معظم حالات الاستخدام، لذا يجب تعديل هذه الإعدادات فقط إذا كان تطبيقك يتطلب ذلك باستمرار.

يوضّح الجدول التالي الحدود التي يمكنك ضبطها لكل فئة. على سبيل المثال، إذا ضبطت الكلام الذي يحض على الكراهية على حظر القليل (block_only_high)، سيتم حظر المحتوى الذي يُرجَّح أنّه كلام يحض على الكراهية، وسيتم السماح بأي محتوى آخر يكون احتمال كونه كلامًا يحض على الكراهية أقل.

الاحتمالية مقابل الخطورة

يصنّف Gemini API احتمال أن يكون المحتوى غير آمن على أنّه مرتفع أو متوسط أو منخفض أو ضئيل. ويحظر المحتوى استنادًا إلى هذا الاحتمال، وليس إلى شدة الضرر. قد يكون احتمال أن يكون بعض المحتوى غير آمن منخفضًا، على الرغم من أنّ الضرر قد يكون شديدًا. على سبيل المثال، قارِن بين الجُملتين التاليتين:

1. لكمني الروبوت.
2. قطعني الروبوت.

قد تكون الجملة الأولى أكثر احتمالاً لأن تكون غير آمنة، ولكن قد تعتبر الثانية أكثر خطورة. اختبِر بعناية للعثور على مستوى الحظر الذي يتوافق مع حالة الاستخدام مع تقليل الضرر الذي يلحق بالمستخدمين النهائيين إلى الحدّ الأدنى.

تعديل إعدادات الأمان في Google AI Studio

انقر على إعدادات الأمان ضمن الإعدادات المتقدّمة في لوحة إعدادات التنفيذ لفتح نافذة إعدادات أمان التنفيذ. في النافذة المنبثقة، يمكنك استخدام أشرطة التمرير لضبط مستوى فلترة المحتوى لكل فئة أمان:

عند إرسال طلب (مثلاً، من خلال طرح سؤال على النموذج)، ستظهر الرسالة warning تم حظر المحتوى إذا كان محتوى الطلب محظورًا. للاطّلاع على مزيد من التفاصيل، مرِّر مؤشر الماوس فوق نص تم حظر المحتوى للاطّلاع على الفئة واحتمالية تصنيف الضرر.

الخطوات التالية

• يمكنك الاطّلاع على مرجع Interactions API لمزيد من المعلومات حول واجهة برمجة التطبيقات الكاملة.
• راجِع إرشادات الأمان للحصول على نظرة عامة على اعتبارات الأمان عند التطوير باستخدام النماذج اللغوية الكبيرة.
• يمكنك الاطّلاع على مزيد من المعلومات حول تقييم الاحتمالية مقابل الخطورة من فريق Jigsaw.
• مزيد من المعلومات حول المنتجات التي تساهم في توفير حلول الأمان، مثل Perspective API