負責任的生成式 AI 工具包

以負責任的方式設計、建構及評估開放式 AI 模型，並取得相關工具和指南。

「對齊模型」圖示

負責任的應用程式設計

定義模型行為規則、打造安全可靠的應用程式，並維持與使用者之間的資訊公開透明。
「對齊模型」圖示

安全對齊

探索提示偵錯技巧和指引，瞭解如何微調及使用 RLHF，以便根據安全性政策調整 AI 模型。
「評估」圖示

模型評估

取得指引和資料，透過 LLM 比較工具評估安全性、公平性和事實性可靠的模型。
架構彈性

保護措施

使用現成的解決方案部署安全分類器，或是按照逐步教學課程自行建構安全性分類器。

設計負責任的做法

主動識別應用程式的潛在風險，並定義一套系統層級的方法，為使用者建構安全負責的應用程式。

開始使用

定義系統層級政策

決定應用程式應產生和不應生成的內容類型。

安全設計

定義整體做法來實施風險控管技術，同時在技術和業務方面做出取捨。

開誠布公

使用 Model Card 等構件傳達做法。

安全的 AI 系統

請參考安全 AI 架構 (SAIF) 中重點介紹的 AI 特定安全性風險和修復方法。

評估模型

運用我們的指引和工具，評估模型安全性、公平性和事實準確率的風險。

開始使用

大型語言比較表

透過 LLM Comparator 進行並列評估，以定性評估不同模型的回應差異、對同一模型的不同提示，甚至是模型的不同調整項目

模型評估指南

瞭解紅隊演練最佳做法，並對照學術基準評估您的模型，評估安全性、公平性和事實性方面的危害。

採取保護措施

篩選應用程式的輸入和輸出內容，避免使用者受到不想要的結果影響。

開始使用

ShieldGemma

以 Gemma 2 為基礎的一系列內容安全分類器，提供三種大小：2B、9B、27B。

靈活的分類器

使用參數高效調整 (PET) 並使用相對較少的訓練資料，為特定政策建立安全性分類器

文字管理服務

在低於特定用量限制的情況下免費使用 Google Cloud Natural Language API 偵測安全屬性清單，包括可能視為敏感的各種類別和主題。

Perspective API

辨識「有毒」留言。