Ce kit fournit des ressources pour appliquer les bonnes pratiques d'utilisation responsable des modèles ouverts tels que les modèles Gemma:
- Conseils sur la définition des règles de sécurité, le réglage de la sécurité, les classificateurs de sécurité et l'évaluation des modèles.
- L'outil d'interprétation de l'apprentissage (LIT) permettant d'examiner le comportement de Gemma et de résoudre les problèmes potentiels.
- Méthodologie permettant de créer des classificateurs de sécurité robustes avec un minimum d'exemples.
Cette version du kit ne concerne que les modèles texte-vers-texte en anglais. Vous pouvez donner votre avis pour rendre ce kit plus utile via le lien du mécanisme de commentaires en bas de la page.
Lorsque vous compilez votre application avec Gemma, vous devez adopter une approche globale de la responsabilité et prendre en compte tous les défis possibles au niveau de l'application et du modèle. Ce kit présente des techniques d'atténuation des risques et des questions de sécurité, de confidentialité, d'impartialité et de responsabilité.
Pour en savoir plus et obtenir des conseils, consultez le reste de ce kit:
- Évaluer les risques et définir des règles de sécurité
- Régler les modèles pour plus de sécurité
- Créer des sauvegardes d'entrée et de sortie
- Évaluer la sécurité du modèle et du système
- Compiler des artefacts de transparence
- Analyser le comportement du modèle
Auteurs et contributeurs
Ce kit s'appuie sur les recherches et les outils de différentes équipes Google, y compris ces auteurs et contributeurs:
Ludovic Peran, Kathy Meier-Hellstern, Lucas Dixon, Reena Jana, Oscar Wahltinez, Clément Crepy, Ryan Mullins, Ian Tenney, Ted Klimenko, Shree Pandya, Nithum Thaïn, Mackenzie Thomas, Hayden Schaffer, Beminle Parker-Wallish