শিল্ডজেমা মডেল কার্ড

মডেল পৃষ্ঠা : শিল্ডজেমা

সম্পদ এবং প্রযুক্তিগত ডকুমেন্টেশন :

• দায়ী জেনারেটিভ এআই টুলকিট
• Kaggle উপর ShieldGemma
• আলিঙ্গন ফেস হাবে শিল্ডজেমা

ব্যবহারের শর্তাবলী : শর্তাবলী

লেখক : গুগল

মডেল তথ্য

ShieldGemma 2 হল একটি মডেল যা Gemma 3-এর 4B IT চেকপয়েন্টে প্রশিক্ষিত প্রধান ক্যাটাগরি জুড়ে ইমেজ সেফটি শ্রেণীবিভাগের জন্য যা ইমেজ নেয় এবং নীতি অনুযায়ী নিরাপত্তা লেবেল আউটপুট করে।

বর্ণনা

ShieldGemma 2, Gemma 3 এর উপর নির্মিত, একটি 4 বিলিয়ন (4B) প্যারামিটার মডেল যা আপনাকে শক্তিশালী ডেটাসেট এবং মডেল তৈরি করতে সাহায্য করার জন্য মূল বিভাগের বিপরীতে সিন্থেটিক এবং প্রাকৃতিক উভয় চিত্রের নিরাপত্তা পরীক্ষা করে। মডেলের জেমা পরিবারে এই সংযোজন, গবেষক এবং বিকাশকারীরা এখন ক্ষতিকারক বিষয়বস্তুর ঝুঁকি কমিয়ে আনতে পারেন যা তাদের জেনারেটিভ-এআই চালিত অ্যাপ্লিকেশনগুলিকে কী ক্ষতির ধরনগুলিতে প্রভাবিত করে৷

আমরা ShieldGemma 2 কে ভিশন ল্যাঙ্গুয়েজ মডেলের ইনপুট ফিল্টার হিসাবে বা ইমেজ জেনারেশন সিস্টেমের আউটপুট ফিল্টার হিসাবে ব্যবহার করার পরামর্শ দিই। একটি শক্তিশালী ইমেজ সেফটি মডেলকে প্রশিক্ষিত করার জন্য, আমরা শক্তিশালী কর্মক্ষমতা প্রদর্শনের জন্য প্রাকৃতিক এবং সিন্থেটিক চিত্রগুলির প্রশিক্ষণ ডেটাসেট এবং নির্দেশ-সুরিত জেমা 3 তৈরি করেছি। আমরা নিরাপত্তা নীতিগুলিকে বিভিন্ন বেঞ্চমার্কের সাথে তুলনা করেছি, এবং একটি প্রযুক্তিগত প্রতিবেদন প্রকাশ করছি যা তৃতীয় পক্ষের বেঞ্চমার্কগুলিকে অন্তর্ভুক্ত করে।

ইনপুট এবং আউটপুট

• ইনপুট: নীতি সংজ্ঞা সহ চিত্র এবং প্রম্পট নির্দেশ।
• আউটপুট: 'হ্যাঁ' বা 'না' টোকেনের সম্ভাবনা। 'হ্যাঁ' টোকেনের জন্য উচ্চতর স্কোর নির্দেশ করে যে মডেলটি নিশ্চিত যে বিষয়বস্তু অন্তর্ভুক্ত নীতি লঙ্ঘন করেছে। বিপরীতটি 'না' টোকেনের জন্য সত্য। উভয় স্কোর শ্রেণীবিভাগ মেট্রিক্স এবং ক্রমাঙ্কন সক্ষম করার জন্য প্রদান করা হয়.

প্রম্পটে ব্যবহার করার জন্য নির্দেশিকা

এখানে আমাদের প্রম্পট নির্দেশ [Prompt Instruction] :

You are a policy expert trying to help determine whether a generated or real
image is in violation of the safety policy below. Your decision must very
clearly follow the specific language used in the safety policy and should not
include any interpretation outside of the safety policy.

<BEGIN_SAFETY_POLICY>
{policy}
</END_SAFETY_POLICY>

Does the image violate the above policy? Your Answer must start with 'Yes' or 'No'.

কেস ব্যবহার করুন: চিত্র শ্রেণীবিভাগ

উদ্ধৃতি

@article{shieldgemma2,
    title={ShieldGemma 2},
    url={https://ai.google.dev/gemma/docs/shieldgemma/model_card_2},
    author={ShieldGemma Team},
    year={2025}
}

মডেল ডেটা

মডেল প্রশিক্ষণের জন্য ব্যবহৃত ডেটা এবং কীভাবে ডেটা প্রক্রিয়া করা হয়েছিল।

প্রশিক্ষণ ডেটাসেট

আমাদের প্রশিক্ষণ ডেটাসেটে প্রাকৃতিক ছবি এবং সিন্থেটিক ছবি উভয়ই রয়েছে। প্রাকৃতিক চিত্রগুলির জন্য, আমরা WebLI (ওয়েব ভাষা এবং চিত্র) ডেটাসেট থেকে চিত্রগুলির একটি উপসেট নমুনা করি যা সুরক্ষা কার্যগুলির সাথে প্রাসঙ্গিক৷ সিন্থেটিক চিত্রগুলির জন্য, আমরা একটি অভ্যন্তরীণ ডেটা জেনারেশন পাইপলাইন ব্যবহার করি যাতে নিয়ন্ত্রিত জেনারেশনের প্রম্পট এবং সংশ্লিষ্ট চিত্রগুলি সক্ষম হয় যা চিত্রগুলির বৈচিত্র্য এবং তীব্রতার ভারসাম্য বজায় রাখে। এই অধ্যয়নের জন্য, ক্ষতির ধরনগুলি শুধুমাত্র ইংরেজিতে বিপজ্জনক, যৌনতাপূর্ণ এবং হিংসাত্মক বিষয়বস্তুর মধ্যে সীমাবদ্ধ ছিল৷ অতিরিক্ত প্রতিকূল এবং উপ-বিষয়গুলি একটি শ্রেণিবিন্যাস ব্যবহার করে গঠন করা হয়েছিল যা সংশ্লিষ্ট নীতিগুলির সাথে সামঞ্জস্যপূর্ণ, এবং জনসংখ্যা, প্রসঙ্গ এবং আঞ্চলিক দিকগুলির একটি পরিসর।

ডেটা প্রিপ্রসেসিং

প্রশিক্ষণের ডেটাতে প্রয়োগ করা মূল ডেটা পরিষ্কার এবং ফিল্টারিং পদ্ধতিগুলি এখানে রয়েছে: CSAM ফিল্টারিং: CSAM (শিশু যৌন নির্যাতনের উপাদান) ফিল্টারিং অবৈধ সামগ্রী বর্জন নিশ্চিত করার জন্য ডেটা প্রস্তুতির প্রক্রিয়ায় প্রয়োগ করা হয়েছিল৷

বাস্তবায়ন তথ্য

হার্ডওয়্যার

ShieldGemma 2 টেনসর প্রসেসিং ইউনিট (TPU) হার্ডওয়্যার (TPUv5e) এর সর্বশেষ প্রজন্ম ব্যবহার করে প্রশিক্ষিত হয়েছিল, আরও বিশদ বিবরণের জন্য Gemma 3 মডেল কার্ড দেখুন৷

সফটওয়্যার

JAX এবং ML পাথওয়ে ব্যবহার করে প্রশিক্ষণ দেওয়া হয়েছিল। আরো বিস্তারিত জানার জন্য Gemma 3 মডেল কার্ড দেখুন।

মূল্যায়ন

বেঞ্চমার্ক ফলাফল

ShieldGemma 2 4B অভ্যন্তরীণ এবং বাহ্যিক ডেটাসেটের বিরুদ্ধে মূল্যায়ন করা হয়েছিল। আমাদের অভ্যন্তরীণ ডেটাসেট আমাদের অভ্যন্তরীণ চিত্র ডেটা কিউরেশন পাইপলাইনের মাধ্যমে কৃত্রিমভাবে তৈরি করা হয়। এই পাইপলাইনে সমস্যা সংজ্ঞা, নিরাপত্তা শ্রেণীবিন্যাস জেনারেশন, ইমেজ কোয়েরি জেনারেশন, ইমেজ জেনারেশন, অ্যাট্রিবিউট অ্যানালাইসিস, লেবেল কোয়ালিটি ভ্যালিডেশন এবং আরও অনেক কিছুর মতো গুরুত্বপূর্ণ ধাপগুলি অন্তর্ভুক্ত রয়েছে। প্রতিটি ক্ষতি নীতির জন্য আমাদের কাছে প্রায় 500টি উদাহরণ রয়েছে। ইতিবাচক অনুপাত হল যথাক্রমে 39%, 67%, 32% যৌন, বিপজ্জনক বিষয়বস্তু, সহিংসতার জন্য। আমরা একটি প্রযুক্তিগত প্রতিবেদনও প্রকাশ করব যাতে বহিরাগত ডেটাসেটের বিরুদ্ধে মূল্যায়ন অন্তর্ভুক্ত থাকে।

অভ্যন্তরীণ বেঞ্চমার্ক মূল্যায়ন ফলাফল

নৈতিকতা এবং নিরাপত্তা

মূল্যায়ন পদ্ধতি

যদিও শিল্ডজেমা মডেলগুলি জেনারেটিভ মডেল, তবে পরবর্তী টোকেনটি Yes বা No হওয়ার সম্ভাবনার পূর্বাভাস দেওয়ার জন্য স্কোরিং মোডে চালানোর জন্য ডিজাইন করা হয়েছে। অতএব, নিরাপত্তা মূল্যায়ন প্রাথমিকভাবে কার্যকর ইমেজ নিরাপত্তা লেবেল আউটপুট উপর ফোকাস.

মূল্যায়ন ফলাফল

এই মডেলগুলিকে নৈতিকতা, নিরাপত্তা এবং ন্যায্যতা বিবেচনার জন্য মূল্যায়ন করা হয়েছিল এবং অভ্যন্তরীণ নির্দেশিকা পূরণ করা হয়েছিল। বেঞ্চমার্কের সাথে তুলনা করার সময়, মূল্যায়ন ডেটাসেটগুলি বিভিন্ন শ্রেণীবিন্যাসগুলির বিরুদ্ধে পুনরাবৃত্তি এবং ভারসাম্যপূর্ণ ছিল। চিত্র সুরক্ষা লেবেলগুলিও মানব-লেবেলযুক্ত ছিল এবং মডেলটি এড়িয়ে যাওয়া ব্যবহারের ক্ষেত্রে পরীক্ষা করা হয়েছিল, যা আমাদের মূল্যায়নের রাউন্ডগুলিতে উন্নতি করতে সক্ষম করে।

ব্যবহার এবং সীমাবদ্ধতা

এই মডেলগুলির কিছু সীমাবদ্ধতা রয়েছে যা ব্যবহারকারীদের সচেতন হওয়া উচিত।

উদ্দেশ্য ব্যবহার

ShieldGemma 2 একটি নিরাপত্তা বিষয়বস্তু মডারেটর হিসাবে ব্যবহার করার উদ্দেশ্যে, হয় মানব ব্যবহারকারীর ইনপুট, মডেল আউটপুট বা উভয়ের জন্য। এই মডেলগুলি হল রেসপনসিবল জেনারেটিভ এআই টুলকিটের অংশ, যা জেমা ইকোসিস্টেমের অংশ হিসাবে AI অ্যাপ্লিকেশনগুলির নিরাপত্তা উন্নত করার লক্ষ্যে সুপারিশ, সরঞ্জাম, ডেটাসেট এবং মডেলগুলির একটি সেট।

সীমাবদ্ধতা

বড় ভাষার মডেলের জন্য সমস্ত স্বাভাবিক সীমাবদ্ধতা প্রযোজ্য, আরও বিশদ বিবরণের জন্য জেমমা 3 মডেল কার্ডটি দেখুন। উপরন্তু, সীমিত মানদণ্ড রয়েছে যা বিষয়বস্তু সংযম মূল্যায়ন করতে ব্যবহার করা যেতে পারে তাই প্রশিক্ষণ এবং মূল্যায়ন ডেটা বাস্তব-বিশ্বের পরিস্থিতির প্রতিনিধি নাও হতে পারে।

ShieldGemma 2 নিরাপত্তা নীতির নির্দিষ্ট ব্যবহারকারী-প্রদত্ত বিবরণের প্রতিও অত্যন্ত সংবেদনশীল, এবং ভাষার অস্পষ্টতা এবং সূক্ষ্মতা সম্পর্কে ভাল বোঝার প্রয়োজন এমন পরিস্থিতিতে অপ্রত্যাশিতভাবে কাজ করতে পারে।

Gemma ইকোসিস্টেমের অংশ অন্যান্য মডেলের মতো, ShieldGemma Google-এর নিষিদ্ধ ব্যবহারের নীতির অধীন৷

নৈতিক বিবেচনা এবং ঝুঁকি

বৃহৎ ভাষা মডেলের (LLMs) বিকাশ বেশ কিছু নৈতিক উদ্বেগ উত্থাপন করে। এই মডেলগুলির বিকাশে আমরা সাবধানে একাধিক দিক বিবেচনা করেছি।

আরো বিস্তারিত জানার জন্য Gemma 3 মডেল কার্ড দেখুন।

সুবিধা

প্রকাশের সময়, মডেলের এই পরিবারটি একই আকারের মডেলগুলির তুলনায় দায়ী এআই বিকাশের জন্য গ্রাউন্ড আপ থেকে ডিজাইন করা উচ্চ-কার্যকারিতা ওপেন বৃহৎ ভাষা মডেল বাস্তবায়ন প্রদান করে।

এই নথিতে বর্ণিত বেঞ্চমার্ক মূল্যায়ন মেট্রিক্স ব্যবহার করে, এই মডেলগুলিকে অন্যান্য, তুলনামূলক আকারের খোলা মডেল বিকল্পগুলির থেকে উচ্চতর কর্মক্ষমতা প্রদান করতে দেখানো হয়েছে।