यह टूलकिट, Gemma मॉडल जैसे ओपन मॉडल को ज़िम्मेदारी के साथ इस्तेमाल करने के लिए, सबसे सही तरीके लागू करने के संसाधन उपलब्ध कराता है. इनमें ये शामिल हैं:
- सुरक्षा नीतियां सेट करने, सुरक्षा ट्यूनिंग, सुरक्षा क्लासिफ़ायर और मॉडल इवैलुएशन के बारे में दिशा-निर्देश.
- जेम्मा के व्यवहार की जांच करने और संभावित समस्याओं को ठीक करने के लिए, लर्निंग इंटरप्रेटेबिलिटी टूल (एलआईटी).
- कम से कम उदाहरणों के साथ बेहतर सुरक्षा कैटगरी तय करने का तरीका.
टूलकिट का यह वर्शन, सिर्फ़ अंग्रेज़ी टेक्स्ट-टू-टेक्स्ट मॉडल पर फ़ोकस करता है. पेज पर सबसे नीचे दिए गए फ़ीडबैक मैकेनिज़्म लिंक से, इस टूलकिट को ज़्यादा मददगार बनाने के लिए सुझाव/राय दी जा सकती है या शिकायत की जा सकती है.
जेम्मा के साथ काम करते समय, आपको अपनी ज़िम्मेदारी पूरी करने का एक बेहतर तरीका अपनाना चाहिए. साथ ही, ऐप्लिकेशन और मॉडल लेवल पर सभी संभावित चुनौतियों को ध्यान में रखना चाहिए. इस टूलकिट में जोखिम और उसे कम करने की तकनीकों के बारे में बताया गया है, ताकि सुरक्षा, निजता, निष्पक्षता, और जवाबदेही को ठीक किया जा सके.
ज़्यादा जानकारी और दिशा-निर्देशों के लिए, इस टूलकिट का बाकी हिस्सा देखें:
- जोखिमों का आकलन करना और सुरक्षा नीतियां सेट करना
- सुरक्षा के लिए मॉडल ट्यून करें
- इनपुट और आउटपुट के लिए सुरक्षा के उपाय तैयार करें
- सुरक्षा के लिए मॉडल और सिस्टम का आकलन करना
- पारदर्शिता के आर्टफ़ैक्ट बनाएं
- मॉडल के व्यवहार का विश्लेषण करना
लेखक और योगदान देने वाले
यह टूलकिट, Google की अलग-अलग टीमों के रिसर्च और टूल पर आधारित होता है. इनमें, ये लेखक और योगदान देने वाले शामिल हैं:
लूडोविक पेरन, कैथी मीयर हेलस्टर्न, लुकास डिक्सन, रीना जाना, ऑस्कर वालतीनेज़, क्लेमेंट क्रेपी, रायन मुलिंस, इयन टेननी, टेड क्लिमेंको, श्री पांडिया, निथुम थैन, मैकेंज़ी थॉमस, हेडन स्केफ़र, बिन बरतन डू, सेलीम वारिनी बरसिन डू