আপনার অ্যাপ্লিকেশানে GenAI যুক্ত করা আপনার ব্যবহারকারীদের জন্য অসাধারণ শক্তি এবং মূল্য আনতে পারে, তবে আপনার ব্যবহারকারীরা যে নিরাপত্তা এবং গোপনীয়তা আশা করে তা বজায় রাখার জন্যও এর জন্য গভীর দৃষ্টি প্রয়োজন।
নিরাপত্তার জন্য ডিজাইন
প্রতিটি GenAI- সক্ষম বৈশিষ্ট্য সুরক্ষার স্তরগুলি ডিজাইন করার সুযোগ উপস্থাপন করে। নিচের চিত্রে যেমন দেখানো হয়েছে, নিরাপত্তার বিষয়ে আপনি চিন্তা করতে পারেন এমন একটি উপায় হল AI মডেলটিকে কেন্দ্রে রাখা যা এই বৈশিষ্ট্যটিকে সক্ষম করে। এই মডেল হওয়া উচিত:
- তার নির্ধারিত কাজ সঞ্চালনের জন্য সারিবদ্ধ ;
- সীমার বাইরের ইনপুট এবং আউটপুটগুলি প্রত্যাখ্যান করা হয়েছে তা নিশ্চিত করতে সুরক্ষা ব্যবস্থা দ্বারা সুরক্ষিত ; এবং
- মডেল এবং সিস্টেম কীভাবে নিরাপত্তা-প্রভাবিত মিথস্ক্রিয়াগুলিতে প্রতিক্রিয়া জানায় তা মূল্যায়ন করতে সামগ্রিকভাবে মূল্যায়ন করা হয়েছে ।
ডিজাইনের বিবেচনা, চিন্তার অনুশীলন এবং প্রোটোটাইপিং পদ্ধতি সম্পর্কে আরও জানতে Google I/O 2024 থেকে "দায়িত্বশীল AI পণ্য তৈরি করা" সেশনটি দেখুন যা আপনার দায়িত্বশীল বিকাশের অনুশীলনকে ত্বরান্বিত করতে সহায়তা করতে পারে।
উপরন্তু, আপনি সর্বোত্তম অনুশীলন শিখতে পারেন এবং এর উদাহরণ দেখতে পারেন:
- আপনার অ্যাপ্লিকেশনে AI কীভাবে আচরণ করে তা নিয়ন্ত্রণ করবে এমন নীতিগুলি সংজ্ঞায়িত করা ;
- আপনার ব্যবহারকারীদের কাছে আপনার দায়িত্বশীল পদ্ধতির সাথে যোগাযোগ করার জন্য স্বচ্ছতা আর্টিফ্যাক্ট তৈরি করা; এবং
- দূষিত ব্যবহারের বিরুদ্ধে আপনার আবেদন সুরক্ষিত .
সর্বোপরি, মনে রাখবেন যে নিরাপত্তা এবং দায়িত্বের জন্য একটি সঠিক দৃষ্টিভঙ্গি এমন একটি যা স্ব-প্রতিফলিত এবং প্রযুক্তিগত, সাংস্কৃতিক এবং প্রক্রিয়া চ্যালেঞ্জগুলির সাথে অভিযোজিত। সর্বোত্তম ফলাফল নিশ্চিত করতে আপনার পদ্ধতির নিয়মিত সমালোচনামূলক পর্যালোচনাতে নিজেকে এবং আপনার দলকে নিযুক্ত করুন।
সিস্টেম-স্তরের নীতি নির্ধারণ করুন
বিষয়বস্তুর নিরাপত্তা নীতিগুলি একটি অনলাইন প্ল্যাটফর্মে কোন ধরনের ক্ষতিকারক সামগ্রী অনুমোদিত নয় তা নির্ধারণ করে৷ আপনি YouTube বা Google Play এর মত প্ল্যাটফর্মের বিষয়বস্তু নীতির সাথে পরিচিত হতে পারেন। জেনারেটিভ AI অ্যাপ্লিকেশনগুলির জন্য বিষয়বস্তু নীতিগুলি একই রকম: তারা নির্ধারণ করে যে আপনার অ্যাপ্লিকেশনটি কী ধরণের সামগ্রী তৈরি করা উচিত নয় এবং তারা নির্দেশ করে যে কীভাবে মডেলগুলি টিউন করতে হবে এবং কোন উপযুক্ত সুরক্ষাগুলি যুক্ত করতে হবে৷
আপনার নীতিগুলি আপনার অ্যাপ্লিকেশনের ব্যবহারের ক্ষেত্রে প্রতিফলিত করা উচিত। উদাহরণ স্বরূপ, সম্প্রদায়ের পরামর্শের উপর ভিত্তি করে পারিবারিক ক্রিয়াকলাপের জন্য ধারনা দেওয়ার উদ্দেশ্যে একটি জেনারেটিভ AI পণ্যের এমন একটি নীতি থাকতে পারে যা সহিংস প্রকৃতির সামগ্রী তৈরি করা নিষিদ্ধ করে, কারণ এটি ব্যবহারকারীদের জন্য ক্ষতিকারক হতে পারে। বিপরীতভাবে, একটি অ্যাপ্লিকেশন যা ব্যবহারকারীদের দ্বারা প্রস্তাবিত বিজ্ঞান কল্পকাহিনীর ধারনাগুলির সংক্ষিপ্তসারে সহিংসতার প্রজন্মের অনুমতি দিতে চাইতে পারে, কারণ এটি এই ধারার অনেক গল্পের বিষয়।
আপনার নিরাপত্তা নীতিগুলি ব্যবহারকারীদের জন্য ক্ষতিকর বা বেআইনি এমন সামগ্রী তৈরি করা নিষিদ্ধ করা উচিত এবং আপনার অ্যাপ্লিকেশনের জন্য কোন ধরনের তৈরি করা সামগ্রী সেই দণ্ডের সাথে মিলিত হবে তা উল্লেখ করা উচিত৷ আপনি শিক্ষাগত, ডকুমেন্টারি, বৈজ্ঞানিক বা শৈল্পিক বিষয়বস্তুর ব্যতিক্রমগুলি অন্তর্ভুক্ত করার কথা বিবেচনা করতে পারেন যা অন্যথায় ক্ষতিকারক বলে বিবেচিত হতে পারে।
উদাহরণ সহ নীতির ব্যতিক্রমগুলি সহ একটি অত্যন্ত দানাদার স্তরের বিশদ সহ স্পষ্ট নীতিগুলি সংজ্ঞায়িত করা একটি দায়িত্বশীল পণ্য তৈরির জন্য মৌলিক। আপনার নীতিগুলি আপনার মডেল বিকাশের প্রতিটি ধাপে ব্যবহৃত হয়। ডেটা ক্লিনিং বা লেবেলিংয়ের জন্য, অসম্পূর্ণতা ভুল লেবেলযুক্ত ডেটা, অতিরিক্ত অপসারণ, বা ডেটা কম অপসারণের দিকে নিয়ে যেতে পারে যা আপনার মডেলের নিরাপত্তা প্রতিক্রিয়াগুলিকে প্রভাবিত করবে৷ মূল্যায়নের উদ্দেশ্যে, ভুল-সংজ্ঞায়িত নীতিগুলি উচ্চ আন্তঃ-রেটার বৈচিত্র্যের দিকে পরিচালিত করবে, আপনার মডেল আপনার নিরাপত্তা মানগুলি পূরণ করে কিনা তা জানা আরও কঠিন করে তুলবে৷
অনুমানমূলক নীতি (শুধুমাত্র উদাহরণের জন্য)
নিম্নলিখিত নীতিগুলির কিছু উদাহরণ রয়েছে যা আপনি আপনার অ্যাপ্লিকেশনের জন্য ব্যবহার করার কথা বিবেচনা করতে পারেন, যদি সেগুলি আপনার ব্যবহারের ক্ষেত্রে মেলে।
| নীতি বিভাগ | নীতি |
|---|---|
| সংবেদনশীল ব্যক্তিগতভাবে শনাক্তযোগ্য তথ্য (SPII) | অ্যাপ্লিকেশনটি সংবেদনশীল এবং ব্যক্তিগতভাবে শনাক্তযোগ্য তথ্য পাঠ করবে না (যেমন, ইমেল, ক্রেডিট কার্ড নম্বর, বা ব্যক্তিগত ব্যক্তির সামাজিক নিরাপত্তা নম্বর)। |
| ঘৃণাবাচক কথা | অ্যাপ্লিকেশনটি পরিচয় এবং/অথবা সুরক্ষিত বৈশিষ্ট্যগুলিকে লক্ষ্য করে নেতিবাচক বা ক্ষতিকারক সামগ্রী তৈরি করবে না (যেমন, জাতিগত অপবাদ, বৈষম্যের প্রচার, সুরক্ষিত গোষ্ঠীর বিরুদ্ধে সহিংসতার আহ্বান)। |
| হয়রানি | অ্যাপ্লিকেশনটি অন্য ব্যক্তিকে লক্ষ্য করে দূষিত, ভীতিপ্রদর্শন, ধমক বা অপমানজনক বিষয়বস্তু তৈরি করবে না (যেমন, শারীরিক হুমকি, দুঃখজনক ঘটনা অস্বীকার, সহিংসতার শিকারদের অপমান করা)। |
| বিপজ্জনক বিষয়বস্তু | অ্যাপ্লিকেশনটি নিজের এবং/অথবা অন্যদের (যেমন, আগ্নেয়াস্ত্র এবং বিস্ফোরক ডিভাইসগুলি অ্যাক্সেস করা বা তৈরি করা, সন্ত্রাসবাদের প্রচার, আত্মহত্যার জন্য নির্দেশ) সংক্রান্ত নির্দেশাবলী বা পরামর্শ তৈরি করবে না। |
| সেক্সুয়ালি এক্সপ্লিসিট | অ্যাপ্লিকেশনটি এমন সামগ্রী তৈরি করবে না যাতে যৌন ক্রিয়াকলাপ বা অন্যান্য অশ্লীল বিষয়বস্তুর উল্লেখ রয়েছে (উদাহরণস্বরূপ, যৌন গ্রাফিক বর্ণনা, উত্তেজনা সৃষ্টির লক্ষ্যে সামগ্রী)। |
| ক্ষতিকারক পণ্য এবং পরিষেবাগুলিতে অ্যাক্সেস সক্ষম করা৷ | অ্যাপ্লিকেশনটি এমন সামগ্রী তৈরি করবে না যা সম্ভাব্য ক্ষতিকারক পণ্য, পরিষেবা এবং ক্রিয়াকলাপের (যেমন, জুয়া, ফার্মাসিউটিক্যালস, আতশবাজি, যৌন পরিষেবার প্রচারে অ্যাক্সেসের সুবিধা) প্রচার বা অ্যাক্সেস সক্ষম করে। |
| দূষিত বিষয়বস্তু | অ্যাপ্লিকেশনটি বেআইনি বা প্রতারণামূলক ক্রিয়াকলাপ (যেমন, ফিশিং স্ক্যাম, স্প্যাম বা গণ-অনুরোধের উদ্দেশ্যে তৈরি বিষয়বস্তু, জেলব্রেকিং পদ্ধতি) করার জন্য নির্দেশনা তৈরি করবে না। |
স্বচ্ছতা নিদর্শন
ডকুমেন্টেশন হল ডেভেলপার, সরকার, নীতি অভিনেতা এবং আপনার পণ্যের শেষ ব্যবহারকারীদের জন্য স্বচ্ছতা অর্জনের একটি মূল পদ্ধতি। এটি বিশদ প্রযুক্তিগত প্রতিবেদন বা মডেল, ডেটা এবং সিস্টেম কার্ড প্রকাশ করতে পারে যা যথাযথভাবে নিরাপত্তা এবং অন্যান্য মডেল মূল্যায়নের উপর ভিত্তি করে জনসাধারণের প্রয়োজনীয় তথ্য তৈরি করে। স্বচ্ছতা নিদর্শন যোগাযোগ যানবাহন চেয়ে বেশি; তারা এআই গবেষক, স্থাপনার এবং নিম্নধারার ডেভেলপারদের জন্য মডেলটির দায়িত্বশীল ব্যবহার সম্পর্কে নির্দেশনা প্রদান করে। তথ্যটি আপনার পণ্যের শেষ ব্যবহারকারীদের জন্যও সহায়ক, যারা মডেল সম্পর্কে বিশদ বিবরণ বুঝতে চান।
বিবেচনা করার জন্য কিছু স্বচ্ছতার নির্দেশিকা:
- ব্যবহারকারীরা যখন পরীক্ষামূলক জেনারেটিভ এআই প্রযুক্তির সাথে জড়িত থাকে তখন তাদের সাথে পরিষ্কার হন এবং অপ্রত্যাশিত মডেল আচরণের সম্ভাবনা হাইলাইট করুন।
- বোধগম্য ভাষা ব্যবহার করে জেনারেটিভ এআই পরিষেবা বা পণ্য কীভাবে কাজ করে তার পুঙ্খানুপুঙ্খ ডকুমেন্টেশন অফার করুন। মডেল কার্ডের মতো কাঠামোগত স্বচ্ছতা শিল্পকর্ম প্রকাশ করার কথা বিবেচনা করুন। এই কার্ডগুলি আপনার মডেলের উদ্দিষ্ট ব্যবহার প্রদান করে এবং মডেল ডেভেলপমেন্ট জুড়ে সম্পাদিত মূল্যায়নের সংক্ষিপ্ত বিবরণ দেয়।
- লোকেদের দেখান তারা কীভাবে প্রতিক্রিয়া দিতে পারে এবং কীভাবে তারা নিয়ন্ত্রণে থাকে, যেমন:
- ব্যবহারকারীদের তথ্য-ভিত্তিক প্রশ্ন যাচাই করতে সাহায্য করার প্রক্রিয়া প্রদান করা
- ব্যবহারকারীর প্রতিক্রিয়ার জন্য থাম্বস আপ এবং ডাউন আইকন
- সমস্যাগুলি রিপোর্ট করার লিঙ্ক এবং ব্যবহারকারীর প্রতিক্রিয়ার দ্রুত প্রতিক্রিয়ার জন্য সহায়তা প্রদান করে
- ব্যবহারকারীর কার্যকলাপ সংরক্ষণ বা মুছে ফেলার জন্য ব্যবহারকারী নিয়ন্ত্রণ
নিরাপদ এআই সিস্টেম
GenAI-সক্ষম অ্যাপ্লিকেশনগুলি জটিল আক্রমণের পৃষ্ঠগুলি উপস্থাপন করে যা প্রচলিত অ্যাপ্লিকেশনগুলির তুলনায় আরও বৈচিত্র্যময় প্রশমনের প্রয়োজন। Google-এর Secure AI Framework (SAIF) নিরাপদ ব্যবহারের জন্য কীভাবে আপনার GenAI-সক্ষম অ্যাপ্লিকেশন ডিজাইন করবেন তা বিবেচনা করার জন্য একটি সামগ্রিক ধারণাগত কাঠামো প্রদান করে। এই ফ্রেমওয়ার্ক আপনাকে কীভাবে সারিবদ্ধকরণ , প্রতিকূল মূল্যায়ন , এবং সুরক্ষাগুলি কার্যকরভাবে আপনার আবেদনকে সুরক্ষিত করতে সাহায্য করবে তা মূল্যায়ন করতে সাহায্য করতে পারে, যদিও মনে রাখবেন যে এইগুলি শুধুমাত্র শুরুর ব্লক। আপনার নির্দিষ্ট ব্যবহারের ক্ষেত্রে এবং প্রেক্ষাপটের জন্য আপনার নিরাপত্তা লক্ষ্য অর্জনের জন্য প্রতিষ্ঠানের অনুশীলন, পর্যবেক্ষণ এবং সতর্কতায় অতিরিক্ত পরিবর্তনের প্রয়োজন হতে পারে।
বিকাশকারী সংস্থান
জেনারেটিভ এআই নীতির উদাহরণ:
- ক্লাউড জেমিনি API এবং PaLM API সুরক্ষা বৈশিষ্ট্যগুলির একটি তালিকা প্রদান করে যা নিরাপত্তা নীতিগুলি তৈরির ভিত্তি হিসাবে কাজ করতে পারে৷
- 2023 Google AI নীতির অগ্রগতি আপডেটে অন্তর্ভুক্ত নীতিগুলির উদাহরণ।
- এমএলকমন্স অ্যাসোসিয়েশন, এআই সিস্টেমের উন্নতির জন্য উন্মুক্ত সহযোগিতার দর্শনের উপর নির্মিত একটি ইঞ্জিনিয়ারিং কনসোর্টিয়াম, 6টি বিপত্তি উল্লেখ করে যার উপর তারা তাদের AI সেফটি বেঞ্চমার্কের অংশ হিসাবে AI সুরক্ষার মডেলগুলিকে মূল্যায়ন করে।
শিল্প জুড়ে স্বচ্ছতার শিল্পকর্মের জন্য কোনো একক টেমপ্লেট নেই, তবে বিদ্যমান মডেল কার্ডগুলি আপনার নিজের তৈরি করার জন্য একটি সূচনা পয়েন্ট হিসাবে কাজ করতে পারে:
- জেমার মডেল কার্ড
- আসল মডেল কার্ড পেপার থেকে মডেল কার্ড টেমপ্লেট
- Google ক্লাউড API থেকে মডেল কার্ড