این جعبه ابزار منابعی را برای اعمال بهترین شیوه ها برای استفاده مسئولانه از مدل های باز مانند مدل های Gemma فراهم می کند، از جمله:
- راهنمای تنظیم سیاست های ایمنی، تنظیم ایمنی، طبقه بندی کننده های ایمنی و ارزیابی مدل.
- ابزار تفسیرپذیری یادگیری (LIT) برای بررسی رفتار جما و پرداختن به مسائل بالقوه.
- روشی برای ساخت طبقه‌بندی‌کننده‌های ایمنی قوی با حداقل نمونه‌ها.
این نسخه از جعبه ابزار فقط بر روی مدل های متن به متن انگلیسی تمرکز دارد. می‌توانید از طریق پیوند مکانیزم بازخورد در پایین صفحه، بازخوردی برای مفیدتر کردن این جعبه ابزار ارائه دهید.
هنگام ساختن با Gemma، باید رویکردی جامع به مسئولیت داشته باشید و تمام چالش‌های احتمالی را در سطوح برنامه و مدل در نظر بگیرید. این مجموعه ابزار، تکنیک های ریسک و کاهش را برای رسیدگی به ایمنی، حریم خصوصی، انصاف و مسئولیت پذیری پوشش می دهد.
برای اطلاعات بیشتر و راهنمایی بقیه این جعبه ابزار را بررسی کنید:
- ریسک ها را ارزیابی کنید و سیاست های ایمنی را تنظیم کنید
- برای ایمنی مدل ها را تنظیم کنید
- حفاظت ورودی و خروجی ایجاد کنید
- مدل و سیستم را برای ایمنی ارزیابی کنید
- مصنوعات شفافیت بسازید
- تحلیل رفتار مدل
نویسندگان و مشارکت کنندگان
این جعبه ابزار مبتنی بر تحقیقات و ابزارهای تیم‌های مختلف در سراسر Google است، از جمله این نویسندگان و مشارکت‌کنندگان:
لودویک پران، کتی مایر-هلسترن، لوکاس دیکسون، رینا جانا، اسکار والتینز، کلمنت کرپی، رایان مولینز، ایان تنی، تد کلیمنکو، شری پاندیا، نیثوم تاین، مکنزی توماس، هایدن شافر، بین دو، سلیم السای بارنز، مادلین الیش، گریس وو، تریس وارکنتین، ماری پلات