ערכת כלים של בינה מלאכותית גנרטיבית ואחראית

הגדרת כללי מדיניות ברמת המערכת

לקבוע איזה סוג של תוכן האפליקציה צריכה ליצור ואיזה לא.

תכנון בטוח

להגדיר את הגישה הכוללת להטמעה של שיטות לצמצום סיכונים, תוך התחשבות בשיקולי ביצועים טכניים ועסקיים.

שקיפות

תוכלו להסביר את הגישה שלכם באמצעות פריטי מידע שנוצרו בתהליך הפיתוח (Artifact), כמו כרטיסי מודל.

מערכות AI מאובטחות

שימוש בסיכוני אבטחה ספציפיים ל-AI ובשיטות תיקון שמודגשים ב-Secure AI Framework (SAIF).

בחינת ההנחיות למודל

בעזרת הכלי לחיזוי למידה (LIT) אפשר ליצור הנחיות בטוחות ושימושיות באמצעות שיפור איטרטיבי.

כוונון מודלים לשמירה על בטיחות

כדי לשלוט בהתנהגות המודל, מכווננים את המודל כך שיתאים למדיניות הבטיחות והתוכן.

משווה של LLM

לבצע הערכות זו לצד זו בעזרת כלי להשוואה של LLM כדי להעריך באופן איכותי את ההבדלים בתשובות בין מודלים, הנחיות שונות לאותו מודל או אפילו התאמות שונות של המודל

הנחיות להערכת המודל

בקורס הזה תלמדו על שיטות מומלצות לחלוקת צוותים לגבי שיתוף פעולה, ואיך להעריך את המודל שלכם ביחס לנקודות השוואה אקדמיות, כדי להעריך נזקים בבטיחות, הוגנות ועובדות.

ShieldGemma

סדרת מסווגים של בטיחות תוכן, מבוססת על Gemma 2, זמינה בשלושה גדלים: 2B, 9B ו-27B.

מסווגים גמישים

יצירת מסווגי בטיחות לכללי המדיניות הספציפיים שלכם באמצעות כוונון יעיל בפרמטרים (PET), עם מעט נתוני אימון

שירות ניהול טקסט

זיהוי רשימה של מאפייני בטיחות, כולל קטגוריות שונות שעלולות להזיק ונושאים שעשויים להיחשב כרגישים באמצעות Google Cloud Natural Language API שזמין בחינם מתחת למגבלת שימוש מסוימת.

ממשק API של Perspective

זיהוי תוכן "רעיל" תגובות באמצעות ה-API החינמי הזה של Google Jigsaw, כדי להפחית רעילות באינטרנט ולהבטיח דיאלוג בריא.