La documentation est une méthode essentielle pour assurer la transparence pour les développeurs, les gouvernements, les acteurs du règlement et les utilisateurs finaux de votre produit. Cela peut impliquer de publier des rapports techniques détaillés, ou des modèles, des données et des fiches système qui rendent publiques de manière appropriée des informations essentielles basées sur la sécurité et d'autres évaluations de modèles. Les artefacts de transparence sont plus que de simples véhicules de communication. Ils aident également les chercheurs en IA, les déployeurs et les développeurs en aval sur l'utilisation responsable du modèle. Ces informations sont également utiles pour les utilisateurs finaux de votre produit, qui souhaitent comprendre les détails du modèle.
Voici quelques consignes concernant la transparence à prendre en compte:
- Expliquez clairement aux utilisateurs qu'ils interagissent avec une technologie expérimentale d'IA générative et mettez en évidence la possibilité de comportement inattendu du modèle.
- Proposez une documentation complète sur le fonctionnement du produit ou du service d'IA générative en utilisant un langage compréhensible. Envisagez de publier des artefacts de transparence structurées tels que des cartes de modèles. Ces fiches indiquent l'utilisation prévue de votre modèle et résument les évaluations effectuées tout au long de son développement.
- Montrez aux utilisateurs comment ils peuvent envoyer leurs commentaires et comment ils en ont le contrôle. Par exemple :
- Fournir des mécanismes pour aider les utilisateurs à valider des questions factuelles
- Icônes "J'aime" et "Je n'aime pas" pour les commentaires des utilisateurs
- Liens permettant de signaler les problèmes et de proposer une assistance pour répondre rapidement aux commentaires des utilisateurs
- Commande utilisateur pour le stockage ou la suppression de l'activité des utilisateurs
Ressources pour les développeurs
Il n'existe pas de modèle unique pour les artefacts de transparence dans tout le secteur, mais les fiches de modèle existantes peuvent servir de point de départ pour créer les vôtres:
- Fiche modèle de Gemma
- Modèle de fiche modèle issu du document de présentation du modèle d'origine
- Fiches de modèle des API Google Cloud
Références
- Fiches de modèle pour la création de rapports sur les modèles
- Fiches de modèle
- Fiches de données: documentation précise et pertinente des ensembles de données pour une IA responsable
- Playbook sur les fiches de données
- Bard avec carte système Gemini Pro spécialement adaptée
- Ressources du forum du modèle Frontier sur les équipes Red Team