יצירת ארטיפקטים של שקיפות

התיעוד הוא שיטה מרכזית להשגת שקיפות למפתחים, לרשויות ממשלתיות, לשחקני מדיניות ולמשתמשי קצה של המוצר. במסגרת התהליך הזה, צריך לפרסם דוחות טכניים מפורטים או מודל, נתונים וכרטיסי מערכת שמפיקים באופן הולם מידע חיוני על סמך בטיחות והערכות מודלים אחרות. ארטיפקטים בנוגע לשקיפות הם יותר מכלי תקשורת; הם גם מספקים הדרכה לחוקרים, לפורסים ולמפתחים בתחום ה-AI, לגבי שימוש אחראי במודל. המידע שימושי גם למשתמשי קצה של המוצר, שרוצים להבין פרטים על המודל.

כמה הנחיות שכדאי לשקול לגבי שקיפות:

  • חשוב להבהיר למשתמשים כשהם מעורבים בטכנולוגיית בינה מלאכותית גנרטיבית ניסיונית, ולהדגיש את האפשרות להתנהגות לא צפויה של המודל.
  • לספק תיעוד מקיף שמסביר איך המוצר או השירות של ה-AI הגנרטיבי פועלים בשפה מובנת. כדאי לפרסם ארטיפקטים מובנים של שקיפות, כמו כרטיסי מודל. הכרטיסים האלה מציגים את השימוש המיועד של המודל ומסכמים את ההערכות שבוצעו במהלך פיתוח המודל.
  • מראים לאנשים איך הם יכולים לתת משוב ואיך הם בשליטה, למשל:
    • מתן מנגנונים שיעזרו למשתמשים לאמת שאלות מבוססות-עובדות
    • סמלי לייק ודיסלייק למשוב ממשתמשים
    • קישורים לדיווח על בעיות ותמיכה לצורך תגובה מהירה למשוב ממשתמשים
    • בקרת משתמש לאחסון או למחיקה של פעילות משתמש

משאבים למפתחים

אין תבנית אחת לפריטי מידע שנוצרו בתהליך הפיתוח (Artifact) בכל הענף, אבל כרטיסי מודל קיימים יכולים לשמש כנקודת התחלה ליצירה של פריט משלכם:

קובצי עזר