ज़िम्मेदार जनरेटिव एआई टूलकिट
ओपन एआई मॉडल को ज़िम्मेदारी के साथ डिज़ाइन करने, बनाने, और उनका आकलन करने के लिए टूल और दिशा-निर्देश.
ज़िम्मेदारी से ऐप्लिकेशन का डिज़ाइन तैयार करना
मॉडल के व्यवहार के लिए नियम तय करें, सुरक्षित और जवाबदेह ऐप्लिकेशन बनाएं, और उपयोगकर्ताओं के साथ पारदर्शी तरीके से बातचीत करें.
सुरक्षा से जुड़ा अलाइनमेंट
प्रॉम्प्ट डीबग करने की तकनीकों के बारे में जानें. साथ ही, उन्हें बेहतर बनाने और आरएलएचएफ़ से जुड़े दिशा-निर्देश भी पाएं, ताकि एआई मॉडल को सुरक्षा नीतियों के मुताबिक बनाया जा सके.
मॉडल का आकलन
एलएलएम कंपैरेटर की मदद से, सुरक्षा, निष्पक्षता, और तथ्यों के आधार पर बेहतर मॉडल की जांच करने के लिए, दिशा-निर्देश और डेटा पाएं.
सुरक्षा के उपाय
सुरक्षा कैटगरी तय करने वाले टूल डिप्लॉय करें. पहले से मौजूद समाधानों का इस्तेमाल करें या सिलसिलेवार तरीके से दिए गए ट्यूटोरियल की मदद से अपनी ज़रूरत के हिसाब से सुरक्षा सुविधाएं बनाएं.
ज़िम्मेदारी के साथ प्लान बनाएं
अपने ऐप्लिकेशन से जुड़े संभावित जोखिमों की बेहतर तरीके से पहचान करें. साथ ही, उपयोगकर्ताओं के लिए सुरक्षित और ज़िम्मेदार ऐप्लिकेशन बनाने के लिए, सिस्टम-लेवल का तरीका तय करें.
अपनी प्रोफ़ाइल बनाना शुरू करें
सिस्टम-लेवल की नीतियां तय करें
तय करें कि आपके ऐप्लिकेशन को किस तरह का कॉन्टेंट जनरेट करना चाहिए और किस तरह का नहीं.
सुरक्षा के लिए बनाया गया डिज़ाइन
तकनीकी और कारोबार में होने वाले उतार-चढ़ाव को ध्यान में रखते हुए, जोखिम कम करने की तकनीकों को लागू करने का अपना पूरा तरीका तय करें.
सही जानकारी दें
मॉडल कार्ड जैसे आर्टफ़ैक्ट के ज़रिए, अपने तरीके के बारे में बताएं.
सिक्योर एआई सिस्टम
सुरक्षा से जुड़े खास जोखिमों और उन्हें दूर करने के तरीकों के बारे में सोचें. इन्हें सिक्योर एआई फ़्रेमवर्क (एसएआईएफ़) में हाइलाइट किया गया है.
अपना मॉडल अलाइन करें
प्रॉम्प्ट और ट्यूनिंग तकनीकों का इस्तेमाल करके, अपने मॉडल को सुरक्षा से जुड़ी खास नीतियों के हिसाब से सेट करें.
अपनी प्रोफ़ाइल बनाना शुरू करें
मॉडल प्रॉम्प्ट की जांच करना
लर्निंग इंटरप्रिटेबिलिटी टूल (LIT) की मदद से, बार-बार और सुधार की सुविधा की मदद से सुरक्षित और मददगार प्रॉम्प्ट बनाएं.
सुरक्षा के लिए मॉडल ट्यून करें
अपने मॉडल को सुरक्षा और कॉन्टेंट की नीतियों के मुताबिक बनाने के लिए, उसके काम करने के तरीके को कंट्रोल करें.
अपने मॉडल का मूल्यांकन करना
हमारे दिशा-निर्देशों और टूल का इस्तेमाल करके, सुरक्षा, निष्पक्षता, और तथ्यों पर आधारित सटीक कॉन्टेंट से जुड़े जोखिमों का आकलन करें.
अपनी प्रोफ़ाइल बनाना शुरू करें
एलएलएम कम्पैरेटर
एलएलएम कंपैरेटर की मदद से, अलग-अलग मॉडल के जवाबों, एक ही मॉडल के लिए अलग-अलग प्रॉम्प्ट या किसी मॉडल की अलग-अलग ट्यूनिंग के बीच के जवाबों में अंतर का क्वालिटी के हिसाब से आकलन करें
मॉडल इवैलुएशन के दिशा-निर्देश
रेड टीमिंग के सबसे सही तरीकों के बारे में जानें. साथ ही, सुरक्षा, निष्पक्षता, और तथ्यों के आधार पर होने वाले नुकसान का आकलन करने के लिए, शिक्षा से जुड़े मानदंडों के हिसाब से अपने मॉडल का आकलन करें.
सुरक्षा के उपाय करें
अपने ऐप्लिकेशन के इनपुट और आउटपुट को फ़िल्टर करें, और उपयोगकर्ताओं को अनचाहे नतीजों से बचाएं.
अपनी प्रोफ़ाइल बनाना शुरू करें
एजाइल क्लासिफ़ायर
कम ट्रेनिंग डेटा वाले पैरामीटर एफ़िशिएंट ट्यूनिंग (पीईटी) का इस्तेमाल करके, अपनी खास नीतियों के लिए सुरक्षा से जुड़े डेटा की कैटगरी तय करने वाले एल्गोरिदम बनाएं
टेक्स्ट मॉडरेशन की सेवा
सुरक्षा से जुड़े एट्रिब्यूट की सूची का पता लगाएं. इनमें, नुकसान पहुंचा सकने वाली कई कैटगरी और विषय शामिल हैं. साथ ही, इस Google Cloud Natural Language API का इस्तेमाल, एक तय सीमा से कम समय में मुफ़्त में किया जा सकता है.
Perspective API
"बुरे बर्ताव" की पहचान करना ऑनलाइन प्लैटफ़ॉर्म पर बुरे बर्ताव को कम करने और बातचीत के माहौल को बेहतर बनाने के लिए, इस मुफ़्त Google Jigsaw API का इस्तेमाल करके टिप्पणियां की जा सकती हैं.