ज़िम्मेदार जनरेटिव एआई टूलकिट
ओपन एआई मॉडल को ज़िम्मेदारी के साथ डिज़ाइन करने, बनाने, और उनका आकलन करने के लिए टूल और दिशा-निर्देश.
ज़िम्मेदारी से ऐप्लिकेशन का डिज़ाइन तैयार करना
मॉडल के व्यवहार के लिए नियम तय करें, सुरक्षित और जवाबदेह ऐप्लिकेशन बनाएं, और उपयोगकर्ताओं के साथ पारदर्शी तरीके से बातचीत करें.
सुरक्षा अलाइनमेंट
प्रॉम्प्ट डीबग करने की तकनीकों के बारे में जानें. साथ ही, उन्हें बेहतर बनाने और आरएलएचएफ़ से जुड़े दिशा-निर्देश भी पाएं, ताकि एआई मॉडल को सुरक्षा नीतियों के मुताबिक बनाया जा सके.
मॉडल का आकलन
LLM कम्पेरेटर की मदद से, मॉडल की सुरक्षा, निष्पक्षता, और सटीक होने की जांच करने के लिए दिशा-निर्देश और डेटा पाएं.
सुरक्षा के उपाय
सुरक्षा कैटगरी तय करने वाले टूल डिप्लॉय करें. पहले से मौजूद समाधानों का इस्तेमाल करें या सिलसिलेवार तरीके से दिए गए ट्यूटोरियल की मदद से अपनी ज़रूरत के हिसाब से सुरक्षा सुविधाएं बनाएं.
ज़िम्मेदारी के साथ काम करने का तरीका तय करना
अपने ऐप्लिकेशन से जुड़े संभावित जोखिमों की बेहतर तरीके से पहचान करें. साथ ही, उपयोगकर्ताओं के लिए सुरक्षित और ज़िम्मेदार ऐप्लिकेशन बनाने के लिए, सिस्टम-लेवल का तरीका तय करें.
अपनी प्रोफ़ाइल बनाना शुरू करें
सिस्टम-लेवल की नीतियां तय करना
तय करें कि आपके ऐप्लिकेशन को किस तरह का कॉन्टेंट जनरेट करना चाहिए और किस तरह का नहीं.
सुरक्षा के लिए बनाया गया डिज़ाइन
जोखिम कम करने की तकनीकों को लागू करने के लिए, अपना पूरा तरीका तय करें. इसमें तकनीकी और कारोबार से जुड़े फ़ायदे और नुकसान को ध्यान में रखें.
सही जानकारी दें
मॉडल कार्ड जैसी आर्टफ़ैक्ट की मदद से, अपने तरीके के बारे में बताएं.
एआई सिस्टम को सुरक्षित करना
सुरक्षा से जुड़े खास खतरों और उन्हें दूर करने के तरीकों के बारे में सोचें. इन्हें सिक्योर एआई फ़्रेमवर्क (एसएआईएफ़) में हाइलाइट किया गया है.
अपना मॉडल अलाइन करना
प्रॉम्प्ट और ट्यूनिंग तकनीकों का इस्तेमाल करके, अपने मॉडल को सुरक्षा से जुड़ी खास नीतियों के हिसाब से सेट करें.
अपनी प्रोफ़ाइल बनाना शुरू करें
ज़्यादा सुरक्षित और मज़बूत प्रॉम्प्ट बनाएं
मॉडल अलाइनमेंट लाइब्रेरी की मदद से, सुरक्षित प्रॉम्प्ट टेंप्लेट बनाने के लिए एलएलएम की सुविधा का इस्तेमाल करें.
सुरक्षा के लिए मॉडल को ट्यून करना
सुरक्षा और कॉन्टेंट से जुड़ी नीतियों के मुताबिक मॉडल को ट्यून करके, मॉडल के व्यवहार को कंट्रोल करें.
मॉडल के प्रॉम्प्ट की जांच करना
लर्निंग इंटरप्रिटेबिलिटी टूल (एलआईटी) की मदद से, बार-बार सुधार करके सुरक्षित और मददगार प्रॉम्प्ट बनाएं.
अपने मॉडल का मूल्यांकन करना
हमारे दिशा-निर्देशों और टूल का इस्तेमाल करके, मॉडल के जोखिमों का आकलन करें. इनमें सुरक्षा, निष्पक्षता, और तथ्यों के सटीक होने से जुड़े जोखिम शामिल हैं.
अपनी प्रोफ़ाइल बनाना शुरू करें
एलएलएम कम्पैरेटर
एलएलएम कम्पेरेटर की मदद से, एक साथ कई तरह के आकलन करें. इससे, मॉडल के जवाबों में अंतर, एक ही मॉडल के लिए अलग-अलग प्रॉम्प्ट या मॉडल की अलग-अलग ट्यूनिंग के बीच के अंतर का आकलन किया जा सकता है
मॉडल इवैलुएशन के दिशा-निर्देश
रेड टीमिंग के सबसे सही तरीकों के बारे में जानें. साथ ही, सुरक्षा, निष्पक्षता, और तथ्यों पर आधारित नुकसान का आकलन करने के लिए, अपने मॉडल को अकैडमिक बेंचमार्क के हिसाब से मेज़र करें.
सुरक्षा उपायों की मदद से सुरक्षित रखना
अपने ऐप्लिकेशन के इनपुट और आउटपुट को फ़िल्टर करें, और उपयोगकर्ताओं को अनचाहे नतीजों से बचाएं.
अपनी प्रोफ़ाइल बनाना शुरू करें
SynthID टेक्स्ट
वॉटरमार्क लगाने और आपके मॉडल से जनरेट किए गए टेक्स्ट का पता लगाने का टूल.
ShieldGemma
Gemma 2 पर बना, कॉन्टेंट की सुरक्षा के लिए कैटगरी तय करने वाली टेक्नोलॉजी की सीरीज़, तीन साइज़ में उपलब्ध है: 2B, 9B, 27B.
एजाइल क्लासिफ़ायर
कम ट्रेनिंग डेटा के साथ पैरामीटर-एफ़िशिएंट ट्यूनिंग (पीईटी) का इस्तेमाल करके, अपनी खास नीतियों के लिए सेफ़्टी क्लासिफ़ायर बनाएं
एआई की सुरक्षा की जांच की जाती है
एपीआई और मॉइन्टरिंग डैशबोर्ड की मदद से, पक्का करें कि कॉन्टेंट की नीतियों के मुताबिक एआई का इस्तेमाल किया जा सके.
टेक्स्ट मॉडरेशन सेवा
सुरक्षा से जुड़े एट्रिब्यूट की सूची का पता लगाएं. इनमें, नुकसान पहुंचा सकने वाली कई कैटगरी और विषय शामिल हैं. साथ ही, इस Google Cloud Natural Language API का इस्तेमाल, एक तय सीमा से कम समय में मुफ़्त में किया जा सकता है.
Perspective API
Google Jigsaw के इस बिना किसी शुल्क वाले एपीआई की मदद से, "नफ़रत फैलाने" वाली टिप्पणियों की पहचान करें. इससे ऑनलाइन प्लैटफ़ॉर्म पर बुरे बर्ताव को कम करने और बातचीत के माहौल को बेहतर बनाने में मदद मिलती है.