ShieldGemma

ShieldGemma là một tập hợp các thuật toán phân loại an toàn có trọng số mở, được điều chỉnh theo hướng dẫn, tạo sẵn, được xây dựng dựa trên nhóm mô hình Gemma để xác định xem văn bản hoặc hình ảnh có vi phạm chính sách an toàn trên dữ liệu đầu vào và đầu ra hay không. ShieldGemma được huấn luyện để xác định các tác hại chính trên nhiều mô hình. Hãy xem các thẻ mô hình để biết thêm thông tin.

  • ShieldGemma 2 để kiểm duyệt nội dung hình ảnh: Có trong 4B. Hãy xem thẻ mô hình để biết thêm thông tin chi tiết.
  • ShieldGemma 1 để kiểm duyệt nội dung văn bản: Có sẵn trong 2B, 9B và 27B, cho phép bạn cân bằng tốc độ, hiệu suất và khả năng tổng quát hoá để phù hợp với nhu cầu của bạn trong mọi trường hợp triển khai. Hãy xem thẻ mô hình để biết thêm thông tin chi tiết.

Bảo vệ mô hình bằng ShieldGemma

Kiểm duyệt hình ảnh: ShieldGemma 2 trong Transformers Kiểm duyệt văn bản: ShieldGemma trong Transformers Kiểm duyệt văn bản: ShieldGemma trong Keras

Bạn có thể sử dụng các mô hình ShieldGemma trong các khung sau.