การตั้งค่าความปลอดภัย

Gemini API มีการตั้งค่าความปลอดภัยที่คุณปรับได้ในระหว่างขั้นตอนการสร้างต้นแบบเพื่อกำหนดว่าแอปพลิเคชันของคุณต้องมีการกำหนดค่าความปลอดภัยที่เข้มงวดมากขึ้นหรือน้อยลง คุณสามารถปรับการตั้งค่าเหล่านี้ในหมวดหมู่ตัวกรองเพื่อจำกัดหรืออนุญาตเนื้อหาบางประเภท

คู่มือนี้จะอธิบายวิธีตั้งค่าความปลอดภัยในการโต้ตอบ สิ่งที่จะเกิดขึ้นเมื่อเนื้อหาถูกบล็อก รวมถึงหมวดหมู่และเกณฑ์ที่คุณใช้ได้

ตั้งค่าความปลอดภัย

ส่งรายการ safety_settings เมื่อสร้างการโต้ตอบ การตั้งค่าแต่ละรายการจะจับคู่หมวดหมู่การละเมิด (type) กับเกณฑ์การบล็อก (threshold)

ตัวอย่างต่อไปนี้ตั้งค่าหมวดหมู่วาจาสร้างความเกลียดชัง (hate_speech) เป็น block_low_and_above ซึ่งจะบล็อกเนื้อหาที่มีความน่าจะเป็นต่ำหรือสูงกว่าที่จะเป็นวาจาสร้างความเกลียดชัง

from google import genai

client = genai.Client()

interaction = client.interactions.create(
    model="gemini-3.8-flash",
    input="Some potentially unsafe prompt.",
    safety_settings=[
        {
            "type": "hate_speech",
            "threshold": "block_low_and_above",
        }
    ],
)

print(interaction.output_text)

import { GoogleGenAI } from "@google/genai";

const ai = new GoogleGenAI({});

async function main() {
  const interaction = await ai.interactions.create({
    model: "gemini-3.8-flash",
    input: "Some potentially unsafe prompt.",
    safety_settings: [
      {
        type: "hate_speech",
        threshold: "block_low_and_above",
      },
    ],
  });
  console.log(interaction.output_text);
}

await main();

import com.google.genai.Client;
import com.google.genai.gaos.models.interactions.CreateModelInteraction;
import com.google.genai.gaos.models.interactions.HarmCategory;
import com.google.genai.gaos.models.interactions.Interaction;
import com.google.genai.gaos.models.interactions.InteractionsInput;
import com.google.genai.gaos.models.interactions.Model;
import com.google.genai.gaos.models.interactions.SafetySetting;
import com.google.genai.gaos.models.interactions.Threshold;
import com.google.genai.gaos.models.operations.CreateInteractionRequestBody;
import java.util.List;

Client client = new Client();

SafetySetting hateSpeechSafety =
    SafetySetting.builder()
        .type(HarmCategory.HATE_SPEECH)
        .threshold(Threshold.BLOCK_LOW_AND_ABOVE)
        .build();

CreateModelInteraction params =
    CreateModelInteraction.builder()
        .model(Model.of("gemini-3.8-flash"))
        .input(InteractionsInput.of("Some potentially unsafe prompt."))
        .safetySettings(List.of(hateSpeechSafety))
        .build();

Interaction interaction =
    client.interactions.create(CreateInteractionRequestBody.of(params)).interaction().get();

System.out.println(interaction.outputText().orElse(""));

package main

import (
    "context"
    "fmt"
    "log"

    "google.golang.org/genai"
    "google.golang.org/genai/interactions/models/interactions"
    "google.golang.org/genai/interactions/models/operations"
)

func main() {
    ctx := context.Background()
    client, err := genai.NewClient(ctx, nil)
    if err != nil {
        log.Fatal(err)
    }

    res, err := client.Interactions.Create(ctx, operations.CreateInteractionRequest{
        Body: operations.NewCreateInteractionRequestBody(interactions.CreateModelInteraction{
            Model: interactions.Model("gemini-3.8-flash"),
            Input: interactions.NewInteractionsInput("Some potentially unsafe prompt."),
            SafetySettings: []interactions.SafetySetting{
                {
                    Type:      interactions.HarmCategoryHateSpeech,
                    Threshold: interactions.ThresholdBlockLowAndAbove,
                },
            },
        }),
    })
    if err != nil {
        log.Fatal(err)
    }

    if res.Interaction.OutputText != nil {
        fmt.Println(*res.Interaction.OutputText)
    }
}

curl -X POST "https://generativelanguage.googleapis.com/v1beta/interactions" \
  -H "x-goog-api-key: $GEMINI_API_KEY" \
  -H 'Content-Type: application/json' \
  -H "Api-Revision: 2026-05-20" \
  -d '{
    "model": "gemini-3.8-flash",
    "input": "Some potentially unsafe prompt.",
    "safety_settings": [
      {"type": "hate_speech", "threshold": "block_low_and_above"}
    ]
  }'

คุณสามารถรวมการตั้งค่า 1 รายการต่อหมวดหมู่ หมวดหมู่ที่คุณไม่ได้ตั้งค่าจะใช้เกณฑ์เริ่มต้น ซึ่งคือปิด สำหรับโมเดล Gemini 2.5 และรุ่นที่ใหม่กว่า

เมื่อเนื้อหาถูกบล็อก

หากตัวกรองความปลอดภัยบล็อกอินพุตหรือการตอบกลับของโมเดล การโต้ตอบจะล้มเหลวโดยมีข้อผิดพลาด HTTP 400 ระบบจะไม่แสดงเนื้อหาที่ถูกบล็อก

code ของข้อผิดพลาดจะบอกเหตุผลที่คำขอถูกบล็อก

• safety: ตัวกรองความปลอดภัยบล็อกอินพุตหรือการตอบกลับ
• jailbreak, prohibited_content หรือ blocklist: อินพุตถูกบล็อกด้วยเหตุผลดังกล่าว message ของข้อผิดพลาดจะขึ้นต้นด้วย Input blocked:

เช่น

{
  "error": {
    "code": "safety",
    "message": "Request blocked due to safety violations (harmful content). Please modify your input and retry."
  }
}

สำหรับการโต้ตอบเบื้องหลัง (background=true) ระบบจะตั้งค่า status เป็น failed และ code กับ message เดียวกันจะปรากฏในรายการ errors เมื่อสตรีมมิง ข้อผิดพลาดจะมาถึงในรูปแบบเหตุการณ์ error

ตัวกรองความปลอดภัย

ตัวกรองความปลอดภัยที่ปรับได้ของ Gemini API ครอบคลุมหมวดหมู่ต่อไปนี้

คุณสามารถใช้ตัวกรองเหล่านี้เพื่อปรับเนื้อหาที่เหมาะสมกับกรณีการใช้งานของคุณ เช่น หากคุณกำลังสร้างบทสนทนาในวิดีโอเกม คุณอาจพิจารณาว่าการอนุญาตเนื้อหาเพิ่มเติมที่ได้รับการจัดประเภทเป็น อันตราย เป็นสิ่งที่ยอมรับได้เนื่องจากลักษณะของเกม

นอกจากตัวกรองความปลอดภัยที่ปรับได้แล้ว Gemini API ยังมีการป้องกันในตัวจากการละเมิดหลักๆ เช่น เนื้อหาที่อาจเป็นอันตรายต่อความปลอดภัยของเด็ก ระบบจะบล็อกการละเมิดประเภทเหล่านี้เสมอและไม่สามารถปรับได้

เกณฑ์การบล็อก

ตัวกรองเพิ่มเติมจะปิด โดยค่าเริ่มต้นเนื่องจากความปลอดภัยโดยธรรมชาติของโมเดล ลักษณะการทำงานเริ่มต้นของโมเดลครอบคลุมกรณีการใช้งานส่วนใหญ่ ดังนั้นคุณควรปรับการตั้งค่าเหล่านี้ก็ต่อเมื่อแอปพลิเคชันของคุณต้องใช้การตั้งค่าเหล่านี้อย่างสม่ำเสมอ

ตารางต่อไปนี้อธิบายเกณฑ์ที่คุณตั้งค่าได้สำหรับแต่ละหมวดหมู่ เช่น หากคุณตั้งค่าวาจาสร้างความเกลียดชัง เป็นบล็อกบางส่วน (block_only_high) ระบบจะบล็อกเนื้อหาที่มีความน่าจะเป็นสูงที่จะเป็นวาจาสร้างความเกลียดชัง และอนุญาตเนื้อหาที่มีความน่าจะเป็นต่ำกว่า

ความน่าจะเป็นเทียบกับความรุนแรง

Gemini API จะให้คะแนนความน่าจะเป็นที่เนื้อหาจะไม่ปลอดภัยเป็นสูง ปานกลาง ต่ำ หรือน้อยมาก โดยจะบล็อกเนื้อหาตามความน่าจะเป็นดังกล่าว ไม่ใช่ตามความรุนแรงของการละเมิด เนื้อหาบางรายการอาจมีความน่าจะเป็นต่ำที่จะไม่ปลอดภัยแม้ว่าการละเมิดอาจรุนแรงก็ตาม เช่น ลองเปรียบเทียบประโยคต่อไปนี้

1. หุ่นยนต์ชกฉัน
2. หุ่นยนต์ฟันฉัน

ประโยคแรกอาจมีความน่าจะเป็นสูงกว่าที่จะไม่ปลอดภัย แต่คุณอาจพิจารณาว่าประโยคที่ 2 รุนแรงกว่า โปรดทดสอบอย่างละเอียดเพื่อหาระดับการบล็อกที่รองรับกรณีการใช้งานของคุณพร้อมกับลดการละเมิดต่อผู้ใช้ปลายทางให้เหลือน้อยที่สุด

ปรับการตั้งค่าความปลอดภัยใน Google AI Studio

คลิกการตั้งค่าความปลอดภัย ในส่วนการตั้งค่าขั้นสูง ในแผงการตั้งค่าการเรียกใช้ เพื่อเปิดโมดัลการตั้งค่าความปลอดภัยในการเรียกใช้ ในโมดัล คุณสามารถใช้แถบเลื่อนเพื่อปรับระดับการกรองเนื้อหาตามหมวดหมู่ความปลอดภัยได้

เมื่อคุณส่งคำขอ (เช่น ถามคำถามกับโมเดล) ข้อความ warning เนื้อหาถูกบล็อก จะปรากฏขึ้นหากเนื้อหาของคำขอถูกบล็อก หากต้องการดูรายละเอียดเพิ่มเติม ให้วางตัวชี้เหนือข้อความเนื้อหาถูกบล็อก เพื่อดูหมวดหมู่และความน่าจะเป็นของการจัดประเภทการละเมิด

ขั้นตอนถัดไป

• ดูข้อมูลอ้างอิง Interactions API เพื่อดูข้อมูลเพิ่มเติมเกี่ยวกับ API ทั้งหมด
• อ่านคำแนะนำด้านความปลอดภัยเพื่อดูภาพรวมของข้อควรพิจารณาด้านความปลอดภัย เมื่อพัฒนาด้วย LLM
• ดูข้อมูลเพิ่มเติมเกี่ยวกับการประเมินความน่าจะเป็นเทียบกับความรุนแรงจากทีม Jigsaw
• ดูข้อมูลเพิ่มเติมเกี่ยวกับผลิตภัณฑ์ที่ช่วยสร้างโซลูชันด้านความปลอดภัย เช่น Perspective API