ShieldGemma là một tập hợp các thuật toán phân loại an toàn có trọng số mở, được điều chỉnh theo hướng dẫn, tạo sẵn, được xây dựng dựa trên nhóm mô hình Gemma để xác định xem văn bản hoặc hình ảnh có vi phạm chính sách an toàn trên dữ liệu đầu vào và đầu ra hay không.
ShieldGemma được huấn luyện để xác định các tác hại chính trên nhiều mô hình. Hãy xem các thẻ mô hình để biết thêm thông tin.
ShieldGemma 2 để kiểm duyệt nội dung hình ảnh: Có trong 4B. Hãy xem thẻ mô hình để biết thêm thông tin chi tiết.
ShieldGemma 1 để kiểm duyệt nội dung văn bản: Có sẵn trong 2B, 9B và 27B, cho phép bạn cân bằng tốc độ, hiệu suất và khả năng tổng quát hoá để phù hợp với nhu cầu của bạn trong mọi trường hợp triển khai. Hãy xem thẻ mô hình để biết thêm thông tin chi tiết.
[[["Dễ hiểu","easyToUnderstand","thumb-up"],["Giúp tôi giải quyết được vấn đề","solvedMyProblem","thumb-up"],["Khác","otherUp","thumb-up"]],[["Thiếu thông tin tôi cần","missingTheInformationINeed","thumb-down"],["Quá phức tạp/quá nhiều bước","tooComplicatedTooManySteps","thumb-down"],["Đã lỗi thời","outOfDate","thumb-down"],["Vấn đề về bản dịch","translationIssue","thumb-down"],["Vấn đề về mẫu/mã","samplesCodeIssue","thumb-down"],["Khác","otherDown","thumb-down"]],["Cập nhật lần gần đây nhất: 2025-03-24 UTC."],[],[],null,["# ShieldGemma\n\n\u003cbr /\u003e\n\n[ShieldGemma](/gemma/docs/shieldgemma) is a set of ready-made, instruction-tuned, open\nweights safety classifiers built on the Gemma family of models to determine\nwhether text or images violate a safety policy across input and output.\nShieldGemma is trained to identify across key harms across different models, see\nthe model cards for more information.\n\n- ShieldGemma 2 for image content moderation: Available in 4B. See the [model card](/gemma/docs/shieldgemma/model_card_2) for more details.\n- ShieldGemma 1 for text content moderation: Available in 2B, 9B, and 27B---allowing you to balance speed, performance, and generalizability to suit your needs across any deployment. See the [model card](/gemma/docs/shieldgemma/model_card) for more details.\n\n| **Note:** While ShieldGemma is trained on key harms, it may be generalizable to other harms related to your use case. It's important to experiment and regularly assess how well ShieldGemma fits your needs.\n\n**Safeguard your models with ShieldGemma**\n\n|---|-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|\n| | [Image moderation: ShieldGemma 2 in Transformers](https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/responsible/docs/safeguards/shieldgemma2_on_huggingface.ipynb) | [Text moderation: ShieldGemma in Transformers](https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/responsible/docs/safeguards/shieldgemma_on_huggingface.ipynb) | [Text moderation: ShieldGemma in Keras](https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/responsible/docs/safeguards/shieldgemma_on_keras.ipynb) |\n\n\u003cbr /\u003e\n\nYou can use ShieldGemma models in the following frameworks.\n\n- [KerasNLP](https://keras.io/keras_nlp/), with model checkpoints available from [Kaggle](https://www.kaggle.com/search?q=shieldgemma+in%3Amodels).\n- [Hugging Face Transformers](https://github.com/huggingface/transformers), with model checkpoints available from [Hugging Face Hub](https://huggingface.co/collections/google/shieldgemma-release-66a20efe3c10ef2bd5808c79)."]]
Kiểm duyệt hình ảnh: ShieldGemma 2 trong Transformers