Clasificadores ágiles: Clasificadores de políticas de contenido personalizados
Los clasificadores Agile son un método eficiente y flexible
para crear clasificadores personalizados de políticas de contenido ajustando modelos, como Gemma,
según tus necesidades. También te permiten tener el control total sobre dónde y cómo
los recursos de Google Cloud.
El codelab y
instructivo, usa LoRA para perfeccionar una Gemma
para que actúe como clasificador de política de contenido con KerasNLP
biblioteca. Con solo 200 ejemplos del conjunto de datos ETHOS, este clasificador logra una puntuación F1 de 0.80 y una puntuación ROC-AUC de 0.78, que se compara favorablemente con los resultados de las tablas de clasificación de vanguardia. Cuando se entrenó
con los ejemplos de 800,
como los otros clasificadores de la tabla de clasificación, el clasificador ágil basado en Gemma
alcanza una puntuación F1 de 83.74 y una puntuación ROC-AUC de 88.17. Puedes adaptar las instrucciones del instructivo para definir mejor este clasificador o crear tus propias protecciones personalizadas del clasificador de seguridad.
[[["Fácil de comprender","easyToUnderstand","thumb-up"],["Resolvió mi problema","solvedMyProblem","thumb-up"],["Otro","otherUp","thumb-up"]],[["Falta la información que necesito","missingTheInformationINeed","thumb-down"],["Muy complicado o demasiados pasos","tooComplicatedTooManySteps","thumb-down"],["Desactualizado","outOfDate","thumb-down"],["Problema de traducción","translationIssue","thumb-down"],["Problema con las muestras o los códigos","samplesCodeIssue","thumb-down"],["Otro","otherDown","thumb-down"]],["Última actualización: 2024-10-23 (UTC)"],[],[],null,["# Agile Classifiers: Customized content policy classifiers\n\n\u003cbr /\u003e\n\n[Agile classifiers](https://arxiv.org/pdf/2302.06541.pdf) is an efficient and flexible method\nfor creating custom content policy classifiers by tuning models, such as Gemma,\nto fit your needs. They also allow you complete control over where and how they\nare deployed.\n\n**Gemma Agile Classifier Tutorials**\n\n|---|---------------------------------------------------------------------------------------------------|-----------------------------------------------------------------------------------------------------------------------------------------------|\n| | [Start Codelab](https://codelabs.developers.google.com/codelabs/responsible-ai/agile-classifiers) | [Start Google Colab](https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/gemma/docs/agile_classifiers.ipynb) |\n\n\u003cbr /\u003e\n\nThe [codelab](https://codelabs.developers.google.com/codelabs/responsible-ai/agile-classifiers) and\n[tutorial](/gemma/docs/agile_classifiers) use [LoRA](https://arxiv.org/abs/2106.09685) to fine-tune a Gemma\nmodel to act as a content policy classifier using the [KerasNLP](https://keras.io/keras_nlp/)\nlibrary. Using only 200 examples from the [ETHOS dataset](https://paperswithcode.com/dataset/ethos), this\nclassifier achieves an [F1 score](https://en.wikipedia.org/wiki/F-score) of 0.80 and [ROC-AUC score](https://developers.google.com/machine-learning/crash-course/classification/roc-and-auc#AUC)\nof 0.78, which compares favorably to state of the art\n[leaderboard results](https://paperswithcode.com/sota/hate-speech-detection-on-ethos-binary). When trained on the 800 examples,\nlike the other classifiers on the leaderboard, the Gemma-based agile classifier\nachieves an F1 score of 83.74 and a ROC-AUC score of 88.17. You can adapt the\ntutorial instructions to further refine this classifier, or to create your own\ncustom safety classifier safeguards."]]
Iniciar codelab
Iniciar Google Colab