Hugging Face |
GitHub |
Launch Blog |
Documentation
लाइसेंस: Apache 2.0 | लेखक: Google DeepMind
DiffusionGemma, Google DeepMind का बनाया गया एक जनरेटिव मॉडल है. DiffusionGemma, 26B A4B मिक्सचर-ऑफ़-एक्सपर्ट्स (एमओई) Gemma 4 आर्किटेक्चर पर आधारित है. यह डिस्क्रीट डिफ़्यूज़न का इस्तेमाल करके टोकन जनरेट करता है. यह ओपन-वेट्स मॉडल, टेक्स्ट, इमेज, और वीडियो इनपुट को हैंडल करके टेक्स्ट आउटपुट जनरेट करता है.
MoE पर आधारित DiffusionGemma को इस तरह डिज़ाइन किया गया है कि यह जनरेशन की स्पीड (हर सेकंड टोकन) को बेहतर बना सके. साथ ही, इसे अलग-अलग हार्डवेयर एनवायरमेंट में डिप्लॉय किया जा सके. DiffusionGemma को Gemma 4 के आर्किटेक्चर और क्षमताओं में सुधार करके बनाया गया है. इसमें कई मुख्य सुविधाएं शामिल हैं:
- डिसक्रीट टेक्स्ट डिफ़्यूज़न – यह मॉडल, टोकन-बाय-टोकन ऑटोरिग्रेशन के बजाय, ब्लॉक-ऑटोरिग्रेसिव मल्टी-कैनवस सैंपलिंग का इस्तेमाल करता है. यह टोकन के ब्लॉक (एक 'कैनवस') को बार-बार डीनॉइज़ करके, टेक्स्ट जनरेट करता है. इससे डिकोड करने की स्पीड काफ़ी बढ़ जाती है.
- मल्टीमॉडल इनपुट प्रोसेसिंग – यह टेक्स्ट आउटपुट जनरेट करने के लिए, इंटरलीव्ड टेक्स्ट, इमेज (अलग-अलग आसपेक्ट रेशियो और रिज़ॉल्यूशन के साथ), और वीडियो इनपुट को प्रोसेस करता है.
- एन्कोडर-डिकोडर आर्किटेक्चर – यह प्रॉम्प्ट के कॉन्टेक्स्ट को प्रोसेस और कैश मेमोरी में सेव करने के लिए, ऑटोरिग्रेसिव एन्कोडर का इस्तेमाल करता है. साथ ही, इसमें एक डिकोडर होता है, जो जनरेशन कैनवस पर दोनों दिशाओं में ध्यान देता है.
- मिक्सचर-ऑफ़-एक्सपर्ट्स (एमओई) की क्षमता – यह मॉडल, स्पार्स एमओई डिज़ाइन (कुल 128 में से आठ ऐक्टिव एक्सपर्ट) का इस्तेमाल करता है. इससे यह मॉडल, तर्क करने की बेहतरीन क्षमताएं उपलब्ध कराता है. साथ ही, यह कम मेमोरी का इस्तेमाल करता है, ताकि इसे लोकल सिस्टम पर चलाया जा सके.
- थिंकिंग मोड (रीज़निंग) – इसे रीज़निंग की बेहतरीन क्षमता के साथ डिज़ाइन किया गया है. इसमें कॉन्फ़िगर किए जा सकने वाले थिंकिंग मोड मौजूद हैं.
- छोटे बैच साइज़ के अनुमान के लिए ऑप्टिमाइज़ किया गया – इसे खास तौर पर, एक ही सक्षम ऐक्सेलरेटर पर कम इंतज़ार के समय और तेज़ रफ़्तार से जनरेट करने के लिए डिज़ाइन किया गया है.
- नेटिव सिस्टम प्रॉम्प्ट सपोर्ट – Gemma 4 की तरह ही, यह भी
systemरोल को अपडेट करने की सुविधा देता है. इससे बातचीत को ज़्यादा स्ट्रक्चर्ड और कंट्रोल किया जा सकता है.
मॉडल की खास जानकारी
DiffusionGemma को इस तरह से डिज़ाइन किया गया है कि यह स्टैंडर्ड कॉज़ल लैंग्वेज मॉडल में, क्रम से होने वाली रुकावटों को कम कर सके. यह एन्कोडर-डिकोडर आर्किटेक्चर का इस्तेमाल करता है. इसे खास तौर पर, अनुमान लगाने की स्पीड को ऑप्टिमाइज़ करने के लिए डिज़ाइन किया गया है.
एन्कोडर, प्रीफ़िल मोड में काम करता है. यह शुरुआती प्रॉम्प्ट को प्रोसेस करता है और केवी कैश जनरेट करता है. इसके बाद, डिकोडर, टोकन के इनपुट ब्लॉक ('कैनवस') को प्रोसेस करने के लिए, दोनों दिशाओं में ध्यान देने की सुविधा का इस्तेमाल करता है. साथ ही, क्रॉस-अटेंशन के ज़रिए कैश मेमोरी में सेव किए गए कॉन्टेक्स्ट को ऐक्सेस करता है.
इन्फ़्रेंस के दौरान, DiffusionGemma मल्टी-कैनवस सैंपलिंग का इस्तेमाल करता है. एक बार में एक टोकन जनरेट करने के बजाय, मॉडल डिफ़्यूज़न सैंपलर का इस्तेमाल करके, टोकन के पूरे ब्लॉक को बार-बार डीनॉइज़ करता है. कैनवस से पूरी तरह से नॉइज़ हटाने के बाद, उसे एन्कोडर प्रोसेस करता है और केवी कैश में जोड़ता है. इसके बाद, मॉडल अगला कैनवस जनरेट करता है. ब्लॉक-ऑटोरिग्रेसिव तरीके से, टेक्स्ट को तेज़ी से जनरेट किया जा सकता है.
DiffusionGemma
| प्रॉपर्टी | DiffusionGemma 26B A4B |
|---|---|
| कुल पैरामीटर | 25.2 अरब |
| ऐक्टिव पैरामीटर | 3.8B |
| लेयर | 30 |
| स्लाइडिंग विंडो | 1,024 टोकन |
| कॉन्टेक्स्ट की लंबाई | ज़्यादा से ज़्यादा 2.56 लाख टोकन |
| कैनवस की लंबाई | 256 |
| शब्दावली का साइज़ | 2.62 लाख |
| विशेषज्ञों की संख्या | 8 चालू / कुल 128 और 1 शेयर किया गया |
| इस्तेमाल किए जा सकने वाले मोड | टेक्स्ट, इमेज |
| विज़न एन्कोडर पैरामीटर | तकरीबन 55 करोड़ |
बेंचमार्क टेस्ट के नतीजे
इन मॉडल का आकलन, अलग-अलग डेटासेट और मेट्रिक के बड़े कलेक्शन के आधार पर किया गया, ताकि टेक्स्ट जनरेट करने के अलग-अलग पहलुओं को कवर किया जा सके. टेबल में मार्क किए गए आकलन के नतीजे, निर्देश के हिसाब से ट्यून किए गए मॉडल के लिए हैं. इनमें सुझाए गए एंट्रॉपी बाउंड (ईबी) सैंपलर का इस्तेमाल किया गया है. इसके बारे में ज़्यादा जानने के लिए, सबसे सही तरीके देखें.
| मानदंड | DiffusionGemma 26B A4B | Gemma 4 26B A4B |
|---|---|---|
| MMLU Pro | 77.6% | 82.6% |
| AIME 2026 no tools | 69.1% | 88.3% |
| LiveCodeBench v6 | 69.1% | 77.1% |
| Codeforces ELO | 1429 | 1718 |
| GPQA Diamond | 73.2% | 82.3% |
| Tau2 (तीन से ज़्यादा का औसत) | 56.2% | 68.2% |
| एचएलई के लिए कोई टूल नहीं है | 11% | 8.7% |
| खोज के साथ एचएलई | 11.9% | 17.2% |
| BigBench Extra Hard | 47.6% | 64.8% |
| MMMLU | 81.5% | 86.3% |
| देखने से जुड़ी समस्या वाले लोगों के लिए सुलभता सुविधाएं | ||
| MMMU Pro | 54.3% | 73.8% |
| OmniDocBench 1.5 (औसत एडिट डिस्टेंस, कम स्कोर बेहतर होता है) | 0.319 | 0.149 |
| MATH-Vision | 70.5% | 82.4% |
| MedXPertQA MM | 49.0% | 58.1% |
| ज़्यादा कॉन्टेक्स्ट वाली विंडो | ||
| MRCR v2 8 needle 128k (average) | 32.0% | 44.1% |
मुख्य सुविधाएं
DiffusionGemma, टेक्स्ट और विज़न से जुड़े कई तरह के टास्क पूरे कर सकता है. इसकी मुख्य सुविधाओं में ये शामिल हैं:
- हाई-स्पीड जनरेशन - डिफ़्यूज़न सैंपलिंग की मदद से, 256 टोकन को एक साथ डीनॉइज़ करने से इंतज़ार का समय कम हो जाता है. इससे हर फ़ॉरवर्ड पास में 15 से 20 टोकन जनरेट होते हैं. साथ ही, कम बैच साइज़ की सेटिंग (H100, FP8) में, हर उपयोगकर्ता के लिए हर सेकंड 1,100 से ज़्यादा टोकन जनरेट होते हैं.
- अडैप्टिव इन्फ़्रेंस टाइम कंप्यूटेशन - आसान प्रॉम्प्ट और कोड जैसे स्ट्रक्चर्ड टास्क के लिए, कम डिनॉइज़िंग स्टेप की ज़रूरत होती है. इससे टास्क की जटिलता के आधार पर, डाइनैमिक टोकन-पर-सेकंड की स्पीड मिलती है.
- थिंकिंग – यह पहले से मौजूद रीज़निंग मोड है. इसकी मदद से, मॉडल जवाब देने से पहले सिलसिलेवार तरीक़े से सोच-विचार करता है.
- ज़्यादा कॉन्टेक्स्ट वाली विंडो – 2.56 लाख टोकन तक की कॉन्टेक्स्ट विंडो.
- इमेज को समझना – ऑब्जेक्ट का पता लगाने की सुविधा, दस्तावेज़/PDF को पार्स करना, स्क्रीन और यूज़र इंटरफ़ेस (यूआई) को समझना, चार्ट को समझना, ओसीआर (कई भाषाओं में), हाथ से लिखे टेक्स्ट की पहचान करना, और पॉइंट करना. इमेज को अलग-अलग आसपेक्ट रेशियो (लंबाई-चौड़ाई का अनुपात) और रिज़ॉल्यूशन में प्रोसेस किया जा सकता है.
- वीडियो को समझना – फ़्रेम के क्रम को प्रोसेस करके, वीडियो कॉन्टेंट का विश्लेषण करता है और उसके बारे में जानकारी देता है.
- इंटरलीव्ड मल्टीमोडल इनपुट – ज़्यादा संदर्भ वाले सवालों के जवाब पाने के लिए, एक ही प्रॉम्प्ट में इमेज, वीडियो, और टेक्स्ट को मिक्स करें.
- फ़ंक्शन कॉलिंग – स्ट्रक्चर्ड टूल के इस्तेमाल के लिए नेटिव सपोर्ट, जिससे एजेंटिक वर्कफ़्लो चालू होते हैं.
- कोडिंग और रीज़निंग – यह कोड जनरेट करने, उसे पूरा करने, और सिलसिलेवार तरीके से लॉजिकल रीज़निंग करने में सक्षम है.
- कई भाषाओं में उपलब्ध – यह 35 से ज़्यादा भाषाओं में उपलब्ध है. साथ ही, इसे 140 से ज़्यादा भाषाओं में पहले से ट्रेनिंग दी गई है.
सबसे सही तरीके
सबसे अच्छी परफ़ॉर्मेंस के लिए, इन कॉन्फ़िगरेशन और सबसे सही तरीकों का इस्तेमाल करें:
1. डिफ़्यूज़न सैंपलिंग की सेटिंग
इस्तेमाल के सभी उदाहरणों में, यहां दिए गए स्टैंडर्ड सैंपलिंग कॉन्फ़िगरेशन का इस्तेमाल करें:
- तरीका: एंट्रॉपी-बाउंडेड डिनॉइज़िंग और अडैप्टिव स्टॉपिंग के साथ डिफ़्यूज़न सैंपलिंग.
- सैंपलिंग कॉन्फ़िगरेशन:
- Maximum number of Denoising Steps = 48
- तापमान का शेड्यूल (लॉजिट शेपिंग के लिए): 0.8 से 0.4 तक लीनियर डिके
- टोकन चुनना: हर चरण में, सैंपलर सबसे कम एंट्रॉपी वाले टोकन चुनता है, ताकि उनकी आपसी जानकारी की सीमा, एंट्रॉपी की सीमा से कम रहे. सीमा = 0.1
- टोकन रीनॉइज़िंग: सैंपलर, नहीं चुने गए टोकन को पूरी तरह से रीनॉइज़ करता है
- अडैप्टिव स्टॉपिंग: सैंपलिंग की प्रोसेस जल्दी खत्म हो जाती है. हालांकि, ऐसा सिर्फ़ तब होता है, जब ये दोनों शर्तें एक साथ पूरी हों:
- भरोसेमंद अनुमान: कैनवस पर मॉडल की औसत एंट्रॉपी, एंट्रॉपी थ्रेशोल्ड से कम है = 0.005
- स्टेबल प्रेडिक्शन: सबसे ज़्यादा संभावना वाले टोकन के अनुमान, डिनॉइज़िंग के दो चरणों में एक जैसे रहते हैं
2. सूझ-बूझ वाले मोड का कॉन्फ़िगरेशन
Gemma 4 मॉडल की तरह ही, हम स्टैंडर्ड system, assistant, और user भूमिकाओं का इस्तेमाल करते हैं. सोचने की प्रोसेस को ठीक से मैनेज करने के लिए, इन कंट्रोल टोकन का इस्तेमाल करें:
- सोचने की सुविधा को ट्रिगर करना: सिस्टम प्रॉम्प्ट की शुरुआत में
<|think|>टोकन शामिल करके, सोचने की सुविधा को चालू किया जाता है. थिंकिंग प्रोसेस को बंद करने के लिए, टोकन को हटा दें. ध्यान दें कि खाली थिंकिंग चैनल अब भी दिख सकता है. - स्टैंडर्ड जनरेशन: अगर आपने सोचने की सुविधा चालू की है, तो मॉडल पहले अपने विश्लेषण की जानकारी देगा और फिर इस स्ट्रक्चर का इस्तेमाल करके आखिरी जवाब देगा:
<|channel>thought\n[विश्लेषण की जानकारी]<channel|>. - सोचने की सुविधा बंद होने पर: अगर सोचने की सुविधा बंद है, तो मॉडल अब भी टैग जनरेट करेगा. हालांकि, थॉट ब्लॉक खाली रहेगा:
<|channel>thought\n<channel|>[Final answer].
ध्यान दें कि ट्रांसफ़ॉर्मर जैसी कई लाइब्रेरी, आपके लिए चैट टेंप्लेट की जटिलताओं को मैनेज करती हैं.
3. एक से ज़्यादा बार बातचीत करना
- इतिहास में थिंकिंग कॉन्टेंट शामिल न करें: कई बार सवाल-जवाब वाले सेशन में, मॉडल के आउटपुट के इतिहास में सिर्फ़ फ़ाइनल जवाब शामिल होना चाहिए. उपयोगकर्ता की अगली बारी शुरू होने से पहले, मॉडल की पिछली बारी के थॉट नहीं जोड़े जाने चाहिए.
4. मोडैलिटी ऑर्डर
- मल्टीमोडल इनपुट से बेहतर परफ़ॉर्मेंस पाने के लिए, अपने प्रॉम्प्ट में टेक्स्ट से पहले इमेज कॉन्टेंट डालें.
5. वैरिएबल इमेज रिज़ॉल्यूशन
अलग-अलग आसपेक्ट रेशियो (लंबाई-चौड़ाई का अनुपात) के अलावा, DiffusionGemma अलग-अलग इमेज रिज़ॉल्यूशन के साथ भी काम करता है. इसके लिए, कॉन्फ़िगर किए जा सकने वाले विज़ुअल टोकन बजट का इस्तेमाल किया जाता है. इससे यह कंट्रोल किया जाता है कि किसी इमेज को दिखाने के लिए कितने टोकन इस्तेमाल किए जाएं. ज़्यादा टोकन बजट होने पर, विज़ुअल की ज़्यादा जानकारी सेव की जाती है. हालांकि, इसके लिए ज़्यादा कंप्यूट की ज़रूरत होती है. वहीं, कम बजट होने पर, उन टास्क के लिए तेज़ी से अनुमान लगाया जा सकता है जिनके लिए ज़्यादा जानकारी की ज़रूरत नहीं होती.
- टोकन बजट की ये वैल्यू इस्तेमाल की जा सकती हैं: 70, 140, 280, 560, और 1120.
- क्लासिफ़िकेशन, कैप्शनिंग या वीडियो को समझने के लिए, कम बजट का इस्तेमाल करें. इससे, ज़्यादा बारीकियों के बजाय, तेज़ी से अनुमान लगाने और कई फ़्रेम को प्रोसेस करने में मदद मिलती है.
- ओसीआर, दस्तावेज़ को पार्स करने या छोटे टेक्स्ट को पढ़ने जैसे टास्क के लिए, ज़्यादा बजट का इस्तेमाल करें.
6. वीडियो अवधि
सभी मॉडल में इनपुट के तौर पर इमेज जोड़ने की सुविधा उपलब्ध है. साथ ही, ये वीडियो को फ़्रेम के तौर पर प्रोसेस कर सकते हैं. वीडियो की अवधि ज़्यादा से ज़्यादा 60 सेकंड हो सकती है. यह इस बात पर निर्भर करता है कि इमेज को एक फ़्रेम प्रति सेकंड के हिसाब से प्रोसेस किया गया हो.
मॉडल डेटा
मॉडल की ट्रेनिंग के लिए इस्तेमाल किया गया डेटा और उसे प्रोसेस करने का तरीका.
ट्रेनिंग के लिए इस्तेमाल किया गया डेटासेट
प्री-ट्रेनिंग के लिए इस्तेमाल किया गया हमारा डेटासेट, बड़े पैमाने पर इकट्ठा किया गया अलग-अलग तरह का डेटा है. इसमें कई तरह के डोमेन और मोडैलिटी शामिल हैं. जैसे, वेब दस्तावेज़, कोड, इमेज, और ऑडियो. इस डेटासेट में जनवरी 2025 तक का डेटा शामिल है. यहां मुख्य कॉम्पोनेंट दिए गए हैं:
- वेब दस्तावेज़: वेब टेक्स्ट के अलग-अलग कलेक्शन से यह पक्का होता है कि मॉडल को भाषा की अलग-अलग स्टाइल, विषयों, और शब्दावली के बारे में जानकारी मिले. ट्रेनिंग डेटासेट में 140 से ज़्यादा भाषाओं का कॉन्टेंट शामिल है.
- कोड: मॉडल को कोड के बारे में बताने से, उसे प्रोग्रामिंग लैंग्वेज के सिंटैक्स और पैटर्न सीखने में मदद मिलती है. इससे कोड जनरेट करने और कोड से जुड़े सवालों को समझने की उसकी क्षमता बेहतर होती है.
- गणित: गणित से जुड़े टेक्स्ट पर ट्रेनिंग देने से, मॉडल को लॉजिकल रीज़निंग और सिंबॉलिक रिप्रज़ेंटेशन सीखने में मदद मिलती है. साथ ही, वह गणित से जुड़ी क्वेरी को हल कर पाता है.
- इमेज: अलग-अलग तरह की इमेज की मदद से, मॉडल इमेज का विश्लेषण कर पाता है और विज़ुअल डेटा निकाल पाता है.
इन अलग-अलग डेटा सोर्स को जोड़ना, एक बेहतरीन मल्टीमोडल मॉडल को ट्रेनिंग देने के लिए ज़रूरी है. इससे मॉडल, अलग-अलग तरह के टास्क और डेटा फ़ॉर्मैट को हैंडल कर सकता है.
डेटा की प्रीप्रोसेसिंग
ट्रेनिंग डेटा को हटाने और फ़िल्टर करने के लिए, यहां कुछ मुख्य तरीके दिए गए हैं:
- सीएसएएम फ़िल्टर करना: डेटा तैयार करने की प्रोसेस के दौरान, कई चरणों में सीएसएएम (बच्चों का यौन शोषण दिखाने वाला कॉन्टेंट) को फ़िल्टर किया गया. इससे यह पक्का किया गया कि नुकसान पहुंचाने वाला और गैर-कानूनी कॉन्टेंट शामिल न हो.
- संवेदनशील डेटा को फ़िल्टर करना: Gemma के पहले से ट्रेन किए गए मॉडल को सुरक्षित और भरोसेमंद बनाने के लिए, ऑटोमेटेड तकनीकों का इस्तेमाल किया गया. इससे ट्रेनिंग सेट से कुछ निजी जानकारी और अन्य संवेदनशील डेटा को फ़िल्टर किया गया.
- अन्य तरीके: हमारी नीतियों के मुताबिक, कॉन्टेंट की क्वालिटी और सुरक्षा के आधार पर फ़िल्टर करना.
नैतिकता और सुरक्षा
ओपन मॉडल, एंटरप्राइज़ इन्फ़्रास्ट्रक्चर का अहम हिस्सा बन गए हैं. इसलिए, डेटा की उत्पत्ति और सुरक्षा सबसे ज़्यादा मायने रखती है. Google DeepMind ने DiffusionGemma को डेवलप किया है. इसकी सुरक्षा की जांच, Gemini मॉडल की तरह ही कड़ी निगरानी में की जाती है.
मूल्यांकन का तरीका
DiffusionGemma को सुरक्षा और ज़िम्मेदारी के साथ एआई का इस्तेमाल करने वाली हमारी टीमों के साथ मिलकर डेवलप किया गया है. मॉडल की सुरक्षा को बेहतर बनाने के लिए, ऑटोमेटेड और मैन्युअल तरीके से कई तरह के आकलन किए गए. ये आकलन, Google के एआई से जुड़े सिद्धांतों और सुरक्षा नीतियों के मुताबिक होते हैं. इनका मकसद, हमारे जनरेटिव एआई मॉडल को नुकसान पहुंचाने वाला कॉन्टेंट जनरेट करने से रोकना है. इसमें यह कॉन्टेंट शामिल है:
- बच्चों का यौन शोषण दिखाने वाला कॉन्टेंट
- खतरनाक कॉन्टेंट (जैसे, आत्महत्या को बढ़ावा देना या ऐसी गतिविधियों के बारे में बताना जिनसे असल दुनिया में नुकसान हो सकता है)
- साफ़ तौर पर सेक्शुअल ऐक्ट दिखाने वाला कॉन्टेंट
- नफ़रत फैलाने वाली भाषा (जैसे, सुरक्षित ग्रुप के सदस्यों के साथ अमानवीय बर्ताव करना)
- उत्पीड़न (जैसे, लोगों के ख़िलाफ़ हिंसा को बढ़ावा देना)
आकलन के नतीजे
सुरक्षा से जुड़े सभी टेस्ट में, Gemma के पिछले वर्शन की तुलना में, Gemma 2 के सभी वर्शन में कॉन्टेंट की सुरक्षा से जुड़े मामलों में काफ़ी सुधार देखने को मिला. कुल मिलाकर, DiffusionGemma, Gemma 4 मॉडल की तरह ही, सुरक्षा को बेहतर बनाने के मामले में Gemma 3 और 3n मॉडल से काफ़ी बेहतर है. साथ ही, यह बिना किसी वजह के अनुरोधों को अस्वीकार करने की दर को कम रखता है. सभी टेस्ट जान-बूझकर सुरक्षा फ़िल्टर के बिना किए गए, ताकि मॉडल की बुनियादी क्षमताओं और व्यवहार का आकलन किया जा सके. टेक्स्ट-टू-टेक्स्ट और इमेज-टू-टेक्स्ट, दोनों के लिए और सभी मॉडल साइज़ में, इस मॉडल ने नीति का उल्लंघन करने वाला कॉन्टेंट बहुत कम जनरेट किया. साथ ही, Gemma के पिछले मॉडल की तुलना में काफ़ी सुधार दिखाया.
इस्तेमाल और सीमाएं
इन मॉडल की कुछ सीमाएं हैं, जिनके बारे में उपयोगकर्ताओं को पता होना चाहिए.
इस्तेमाल का मकसद
मल्टीमोडल मॉडल, विज़न, भाषा, और/या ऑडियो को प्रोसेस कर सकते हैं. इनका इस्तेमाल अलग-अलग इंडस्ट्री और डोमेन में किया जाता है. यहां दिए गए संभावित इस्तेमाल की सूची में, सभी इस्तेमाल शामिल नहीं हैं. इस सूची का मकसद, इस्तेमाल के उन संभावित उदाहरणों के बारे में संदर्भ के हिसाब से जानकारी देना है जिन्हें मॉडल बनाने वाले लोगों ने मॉडल की ट्रेनिंग और डेवलपमेंट के दौरान ध्यान में रखा था.
- कॉन्टेंट बनाना और कम्यूनिकेशन
- टेक्स्ट जनरेट करना: यह कविता, स्क्रिप्ट, कोड, मार्केटिंग कॉपी, और ईमेल ड्राफ़्ट जैसे क्रिएटिव टेक्स्ट फ़ॉर्मैट जनरेट करता है.
- चैटबॉट और बातचीत वाला एआई मॉडल: यह ग्राहक सेवा, वर्चुअल असिस्टेंट या इंटरैक्टिव ऐप्लिकेशन के लिए, बातचीत वाले इंटरफ़ेस को बेहतर बनाता है.
- टेक्स्ट की खास जानकारी: यह टेक्स्ट के डेटासेट, रिसर्च पेपर या रिपोर्ट की खास जानकारी जनरेट करता है.
- इमेज से डेटा निकालने की सुविधा: यह सुविधा, टेक्स्ट के ज़रिए बातचीत करने के लिए, विज़ुअल डेटा को निकालती है, उसकी व्याख्या करती है, और उसकी खास जानकारी देती है.
- रिसर्च और एजुकेशन
- नैचुरल लैंग्वेज प्रोसेसिंग (एनएलपी) और वीएलएम रिसर्च: यह रिसर्चर के लिए एक फ़ाउंडेशन की तरह काम करता है. इसकी मदद से, वे वीएलएम और एनएलपी तकनीकों के साथ एक्सपेरिमेंट कर सकते हैं, एल्गोरिदम डेवलप कर सकते हैं, और इस फ़ील्ड को बेहतर बनाने में योगदान दे सकते हैं.
- भाषा सीखने के टूल: भाषा सीखने के लिए इंटरैक्टिव अनुभव उपलब्ध कराता है. इससे व्याकरण को बेहतर बनाने या लिखने की प्रैक्टिस करने में मदद मिलती है.
- जानकारी एक्सप्लोर करना: यह रिसर्चर को टेक्स्ट के बड़े डेटा को एक्सप्लोर करने में मदद करता है. इसके लिए, यह खास विषयों के बारे में खास जानकारी जनरेट करता है या सवालों के जवाब देता है.
सीमाएं
- ट्रेनिंग डेटा
- ट्रेनिंग डेटा की क्वालिटी और विविधता से, मॉडल की क्षमताओं पर काफ़ी असर पड़ता है. ट्रेनिंग डेटा में मौजूद पक्षपात या कमियों की वजह से, मॉडल के जवाबों में भी कमियां हो सकती हैं.
- ट्रेनिंग डेटासेट के स्कोप से यह तय होता है कि मॉडल किन विषयों को असरदार तरीके से हैंडल कर सकता है.
- कॉन्टेक्स्ट और टास्क की जटिलता
- यह मॉडल उन टास्क को अच्छी तरह से पूरा करता है जिनके लिए साफ़ तौर पर प्रॉम्प्ट और निर्देश दिए जा सकते हैं. ऐसे टास्क जो ओपन-एंडेड या काफ़ी मुश्किल हों.
- मॉडल की परफ़ॉर्मेंस इस बात पर निर्भर करती है कि उसे कितना कॉन्टेक्स्ट दिया गया है. आम तौर पर, ज़्यादा कॉन्टेक्स्ट देने से बेहतर आउटपुट मिलते हैं. हालांकि, इसकी एक सीमा होती है.
- भाषा की बारीकियां और उसके अलग-अलग मतलब
- नैचुरल लैंग्वेज अपने-आप में जटिल होती है. मॉडल को बारीकियों, व्यंग्य या लाक्षणिक भाषा को समझने में परेशानी हो सकती है.
- तथ्यों की सटीक जानकारी
- यह मॉडल, ट्रेनिंग डेटासेट से मिली जानकारी के आधार पर जवाब जनरेट करता है. हालांकि, ये डेटासेट नॉलेज बेस नहीं होते. यह तथ्यों पर आधारित गलत या पुरानी जानकारी जनरेट कर सकता है.
- Common Sense
- यह मॉडल, भाषा के आंकड़ों के पैटर्न पर आधारित होता है. ऐसा हो सकता है कि कुछ स्थितियों में यह सामान्य समझ के हिसाब से तर्क न दे पाए.
नैतिकता से जुड़ी बातें और जोखिम
एक ओपन, विज़न-लैंग्वेज मॉडल बनाने के लिए, हमने इन बातों का ध्यान रखा है:
- पक्षपात और निष्पक्षता
- वीएलएम को बड़े पैमाने पर, असल दुनिया के टेक्स्ट और इमेज डेटा पर ट्रेन किया जाता है. इस वजह से, ट्रेनिंग मटीरियल में मौजूद सामाजिक-सांस्कृतिक पूर्वाग्रह, वीएलएम के आउटपुट में दिख सकते हैं. DiffusionGemma की बारीकी से जांच की गई है. साथ ही, इनपुट डेटा की प्री-प्रोसेसिंग और ट्रेनिंग के बाद के आकलन किए गए हैं. इनके बारे में इस कार्ड में बताया गया है. इससे, इन पक्षपातों के जोखिम को कम करने में मदद मिलती है.
- गलत जानकारी और गलत इस्तेमाल
- वीएलएम का गलत इस्तेमाल करके, गलत, गुमराह करने वाला या नुकसान पहुंचाने वाला टेक्स्ट जनरेट किया जा सकता है.
- मॉडल का ज़िम्मेदारी के साथ इस्तेमाल करने के लिए दिशा-निर्देश दिए गए हैं. ज़िम्मेदारी के साथ जनरेटिव एआई का इस्तेमाल करने के लिए टूलकिट देखें.
- पारदर्शिता और जवाबदेही
- इस मॉडल कार्ड में, मॉडल के आर्किटेक्चर, क्षमताओं, सीमाओं, और आकलन की प्रोसेस के बारे में खास जानकारी दी गई है.
- ज़िम्मेदारी के साथ डेवलप किया गया ओपन मॉडल, इनोवेशन को शेयर करने का मौका देता है. इसके लिए, एआई नेटवर्क में मौजूद डेवलपर और रिसर्चर को वीएलएम टेक्नोलॉजी का ऐक्सेस दिया जाता है.
जोखिमों की पहचान और उन्हें कम करने के तरीके:
- नुकसान पहुंचाने वाला कॉन्टेंट जनरेट करना: कॉन्टेंट की सुरक्षा के लिए, दिशा-निर्देश और तरीके ज़रूरी हैं. हम डेवलपर को सलाह देते हैं कि वे सावधानी बरतें और कॉन्टेंट की सुरक्षा के लिए सही उपाय लागू करें. ये उपाय, प्रॉडक्ट की नीतियों और ऐप्लिकेशन के इस्तेमाल के उदाहरणों के आधार पर होने चाहिए.
- नुकसान पहुंचाने के मकसद से गलत इस्तेमाल: तकनीकी सीमाओं के साथ-साथ डेवलपर और असली उपयोगकर्ता को शिक्षित करके, वीएलएम के नुकसान पहुंचाने वाले ऐप्लिकेशन को कम किया जा सकता है. उपयोगकर्ताओं को शिक्षा से जुड़े संसाधन और शिकायत करने के तरीके उपलब्ध कराए जाते हैं, ताकि वे गलत इस्तेमाल की शिकायत कर सकें.
- निजता का उल्लंघन: मॉडल को ऐसे डेटा पर ट्रेन किया गया था जिसे फ़िल्टर करके, कुछ निजी जानकारी और अन्य संवेदनशील डेटा को हटा दिया गया था. डेवलपर को निजता बनाए रखने वाली तकनीकों का इस्तेमाल करके, निजता से जुड़े कानूनों का पालन करने के लिए बढ़ावा दिया जाता है.
- पक्षपात को बढ़ावा देना: हमारा सुझाव है कि मॉडल को ट्रेनिंग देने, उसे बेहतर बनाने, और अन्य कामों के लिए इस्तेमाल करने के दौरान, लगातार निगरानी की जाए. इसके लिए, आकलन करने वाली मेट्रिक और मैन्युअल तरीके से समीक्षा करने की सुविधा का इस्तेमाल किया जा सकता है. साथ ही, पक्षपात को कम करने वाली तकनीकों को एक्सप्लोर किया जा सकता है.
फ़ायदे
रिलीज़ के समय, यह कम इंतज़ार के समय वाला और बेहतरीन परफ़ॉर्मेंस देने वाला ओपन विज़न-लैंग्वेज मॉडल है. यह डेवलपर और डिफ़्यूज़न लैंग्वेज मॉडल पर रिसर्च करने में दिलचस्पी रखने वाले लोगों के लिए एक बेहतरीन विकल्प है. इस मॉडल को इस तरह से डिज़ाइन किया गया है कि यह ज़िम्मेदारी के साथ एआई को डेवलप कर सके. इस साइज़ के अन्य मॉडल की तुलना में, यह मॉडल ज़्यादा बेहतर है.