Guida al rilevamento della lingua per Python

L'attività MediaPipe Language Detector consente di identificare la lingua di una porzione di testo. Queste istruzioni mostrano come utilizzare il rilevatore del linguaggio con Python. L'esempio di codice descritto in queste istruzioni è disponibile su GitHub.

Puoi vedere questa attività in azione visualizzando la demo. Per ulteriori informazioni sulle funzionalità, sui modelli e sulle opzioni di configurazione di questa attività, consulta la Panoramica.

Esempio di codice

Il codice di esempio per il rilevatore del linguaggio fornisce un'implementazione completa di questa attività in Python come riferimento. Questo codice consente di testare l'attività e iniziare a creare la tua funzionalità di rilevamento della lingua. Puoi visualizzare, eseguire e modificare il codice di esempio del rilevatore di lingue utilizzando semplicemente il tuo browser web.

Configurazione

In questa sezione vengono descritti i passaggi chiave per configurare l'ambiente di sviluppo e codificare i progetti in modo specifico per l'utilizzo del rilevatore della lingua. Per informazioni generali sulla configurazione dell'ambiente di sviluppo per l'utilizzo delle attività di MediaPipe, inclusi i requisiti di versione della piattaforma, consulta la Guida alla configurazione per Python.

Pacchetti

Il rilevatore della lingua utilizza il pacchetto pip mediapipe. Puoi installare la dipendenza con quanto segue:

$ python -m pip install mediapipe

Importazioni

Importa le seguenti classi per accedere alle funzioni di attività di Language Detector:

import mediapipe as mp
from mediapipe.tasks import python
from mediapipe.tasks.python import text

Modello

L'attività MediaPipe Language Detector richiede un modello addestrato compatibile con questa attività. Per ulteriori informazioni sui modelli addestrati disponibili per il rilevatore di linguaggio, consulta la sezione Modelli della panoramica delle attività.

Seleziona e scarica il modello, quindi archivialo all'interno della directory del progetto:

model_path = '/absolute/path/to/language_detector.tflite'

Specifica il percorso del modello con il parametro model_asset_path dell'oggetto BaseOptions, come mostrato di seguito:

base_options = BaseOptions(model_asset_path=model_path)

Creare l'attività

L'attività MediaPipe Language Detector utilizza la funzione create_from_options per configurarla. La funzione create_from_options accetta i valori per le opzioni di configurazione al fine di impostare le opzioni del rilevatore. Puoi anche inizializzare l'attività utilizzando la funzione di fabbrica di create_from_model_path. La funzione create_from_model_path accetta un percorso relativo o assoluto al file del modello addestrato. Per ulteriori informazioni sulla configurazione delle attività, consulta Opzioni di configurazione.

Il codice seguente mostra come creare e configurare questa attività.

base_options = python.BaseOptions(model_asset_path=model_path)
options = text.LanguageDetectorOptions(base_options=base_options)

Opzioni di configurazione

Questa attività prevede le seguenti opzioni di configurazione per le applicazioni Python:

Nome opzione Descrizione Intervallo di valori Valore predefinito
max_results Imposta il numero massimo facoltativo di previsioni relative alla lingua con il punteggio più alto da restituire. Se questo valore è inferiore a zero, vengono restituiti tutti i risultati disponibili. Eventuali numeri positivi -1
score_threshold Imposta la soglia del punteggio di previsione che sostituisce quella fornita nei metadati del modello (se presenti). I risultati inferiori a questo valore vengono rifiutati. Qualsiasi elemento in virgola mobile Non impostata
category_allowlist Consente di impostare l'elenco facoltativo di codici lingua consentiti. Se il campo non è vuoto, le previsioni relative alle lingue il cui codice non è presente in questo set verranno filtrate. Questa opzione si escludono a vicenda con category_denylist e l'uso di entrambi genera un errore. Qualsiasi stringa Non impostata
category_denylist Consente di impostare l'elenco facoltativo di codici lingua non consentiti. Se il campo non è vuoto, le previsioni delle lingue il cui codice è incluso in questo set verranno omesse. Questa opzione si escluda a vicenda con category_allowlist e l'utilizzo di entrambe genera un errore. Qualsiasi stringa Non impostata

Preparazione dei dati

Rilevamento della lingua funziona con i dati di testo (str). L'attività gestisce la pre-elaborazione dell'input dei dati, tra cui la tokenizzazione e la pre-elaborazione tensor. L'intera pre-elaborazione viene gestita all'interno della funzione detect. Non è necessaria ulteriore pre-elaborazione del testo di input.

input_text = 'The input text to be classified.'

Esegui l'attività

Il rilevatore della lingua utilizza la funzione detect per attivare le inferenze. Per il rilevamento della lingua, ciò significa restituire le possibili lingue per il testo di input.

Il seguente codice mostra come eseguire l'elaborazione con il modello di attività.

with python.text.LanguageDetector.create_from_options(options) as detector:
  detection_result = detector.detect(input_text)

Gestire e visualizzare i risultati

Il rilevatore della lingua restituisce un valore LanguageDetectorResult che consiste in un elenco di previsioni della lingua insieme alle probabilità di queste previsioni. Di seguito è riportato un esempio dei dati di output di questa attività:

LanguageDetectorResult:
  LanguagePrediction #0:
    language_code: "fr"
    probability: 0.999781

Eseguindo il modello sul testo di input, si ottiene questo risultato: "Il y a beaucoup de bouches qui parlent et fort peu de têtes qui pensent.".

Per un esempio del codice necessario per elaborare e visualizzare i risultati di questa attività, consulta l'app di esempio Python.