ঝুঁকি মূল্যায়ন এবং নিরাপত্তা নীতি সেট

বিষয়বস্তুর নিরাপত্তা নীতিগুলি একটি অনলাইন প্ল্যাটফর্মে কোন ধরনের ক্ষতিকারক সামগ্রী অনুমোদিত নয় তা নির্ধারণ করে৷ আপনি YouTube বা Google Play এর মত প্ল্যাটফর্মের বিষয়বস্তু নীতির সাথে পরিচিত হতে পারেন। জেনারেটিভ এআই অ্যাপ্লিকেশনগুলির জন্য বিষয়বস্তু নীতিগুলি একই রকম: তারা নির্ধারণ করে যে আপনার অ্যাপ্লিকেশনটি কী ধরণের সামগ্রী তৈরি করা উচিত নয় এবং তারা কীভাবে মডেলগুলি টিউন করতে হবে এবং কোন উপযুক্ত সুরক্ষাগুলি যুক্ত করতে হবে তা নির্দেশ করে৷

আপনার নীতিগুলি আপনার অ্যাপ্লিকেশনের ব্যবহারের ক্ষেত্রে প্রতিফলিত করা উচিত। উদাহরণ স্বরূপ, সম্প্রদায়ের পরামর্শের উপর ভিত্তি করে পারিবারিক ক্রিয়াকলাপের জন্য ধারনা দেওয়ার উদ্দেশ্যে একটি জেনারেটিভ AI পণ্যের এমন একটি নীতি থাকতে পারে যা সহিংস প্রকৃতির সামগ্রী তৈরি করা নিষিদ্ধ করে, কারণ এটি ব্যবহারকারীদের জন্য ক্ষতিকারক হতে পারে। বিপরীতভাবে, একটি অ্যাপ্লিকেশন যা ব্যবহারকারীদের দ্বারা প্রস্তাবিত বিজ্ঞান কল্পকাহিনীর ধারনাগুলির সংক্ষিপ্তসারে সহিংসতার প্রজন্মের অনুমতি দিতে চাইতে পারে, কারণ এটি এই ধারার অনেক গল্পের বিষয়।

আপনার নিরাপত্তা নীতিগুলি ব্যবহারকারীদের জন্য ক্ষতিকর বা বেআইনি এমন সামগ্রী তৈরি করা নিষিদ্ধ করা উচিত এবং আপনার অ্যাপ্লিকেশনের জন্য কোন ধরনের তৈরি করা সামগ্রী সেই দণ্ডের সাথে মিলিত হবে তা উল্লেখ করা উচিত৷ আপনি শিক্ষাগত, ডকুমেন্টারি, বৈজ্ঞানিক বা শৈল্পিক বিষয়বস্তুর ব্যতিক্রমগুলি অন্তর্ভুক্ত করার কথা বিবেচনা করতে পারেন যা অন্যথায় ক্ষতিকারক বলে বিবেচিত হতে পারে।

উদাহরণ সহ নীতির ব্যতিক্রমগুলি সহ একটি অত্যন্ত দানাদার স্তরের বিশদ সহ স্পষ্ট নীতিগুলি সংজ্ঞায়িত করা একটি দায়িত্বশীল পণ্য তৈরির জন্য মৌলিক। আপনার নীতিগুলি আপনার মডেল বিকাশের প্রতিটি ধাপে ব্যবহৃত হয়। ডেটা ক্লিনিং বা লেবেলিংয়ের জন্য, অসম্পূর্ণতা ভুল লেবেলযুক্ত ডেটা, অতিরিক্ত অপসারণ, বা ডেটা কম অপসারণের দিকে নিয়ে যেতে পারে যা আপনার মডেলের নিরাপত্তা প্রতিক্রিয়াগুলিকে প্রভাবিত করবে৷ মূল্যায়নের উদ্দেশ্যে, ভুল-সংজ্ঞায়িত নীতিগুলি উচ্চ আন্তঃ-রেটার বৈচিত্র্যের দিকে পরিচালিত করবে, আপনার মডেল আপনার নিরাপত্তা মানগুলি পূরণ করে কিনা তা জানা আরও কঠিন করে তুলবে৷

অনুমানমূলক নীতি (শুধুমাত্র উদাহরণের জন্য)

নিম্নলিখিত নীতিগুলির কিছু উদাহরণ রয়েছে যা আপনি আপনার অ্যাপ্লিকেশনের জন্য ব্যবহার করার কথা বিবেচনা করতে পারেন, যদি সেগুলি আপনার ব্যবহারের ক্ষেত্রে মেলে।

বিকাশকারী সংস্থান

জেনারেটিভ এআই নীতির উদাহরণ:

• ক্লাউড জেমিনি API এবং PaLM API সুরক্ষা বৈশিষ্ট্যগুলির একটি তালিকা সরবরাহ করে যা সুরক্ষা নীতিগুলি তৈরি করার ভিত্তি হিসাবে কাজ করতে পারে
• 2023 Google AI নীতির অগ্রগতি আপডেটে অন্তর্ভুক্ত নীতিগুলির উদাহরণ
• এমএলকমন্স অ্যাসোসিয়েশন, এআই সিস্টেমের উন্নতির জন্য উন্মুক্ত সহযোগিতার দর্শনের উপর নির্মিত একটি ইঞ্জিনিয়ারিং কনসোর্টিয়াম, 6টি বিপত্তি উল্লেখ করে যার উপর তারা তাদের AI সেফটি বেঞ্চমার্কের অংশ হিসাবে AI সুরক্ষার মডেলগুলিকে মূল্যায়ন করে।