Web 语言检测指南

MediaPipe Language Detector 任务可让您识别一段文本所用的语言。以下说明介绍了如何针对 Web 应用和 JavaScript 应用使用语言检测器。GitHub 上提供了这些说明中描述的代码示例。

您可以观看演示,了解此任务的实际运用。如需详细了解此任务的功能、模型和配置选项,请参阅概览

代码示例

Language Detector 的示例代码在 JavaScript 中提供了此任务的完整实现,供您参考。此代码可帮助您测试此任务,并开始构建您自己的语言检测器功能。您可以使用网络浏览器查看、运行和修改语言检测器示例代码

初始设置

本部分介绍了专门针对使用语言检测器来设置开发环境和代码项目的关键步骤。如需了解如何为使用 MediaPipe 任务设置开发环境的一般信息(包括平台版本要求),请参阅 Web 设置指南

JavaScript 软件包

语言检测器代码可通过 @mediapipe/tasks-text 软件包获取。您可以从平台设置指南中提供的链接查找和下载这些库。

您可以使用以下命令,通过以下代码为本地预演安装所需的软件包:

npm install @mediapipe/tasks-text

如果要部署到服务器,可以使用内容分发网络 (CDN) 服务(如 jsDelivr)直接向 HTML 页面添加代码,如下所示:

<head>
  <script src="https://cdn.jsdelivr.net/npm/@mediapipe/tasks-text@latest/index.js"
    crossorigin="anonymous"></script>
</head>

模型

MediaPipe 语言检测器任务需要使用与此任务兼容的经过训练的模型。如需详细了解适用于语言检测器的经过训练的模型,请参阅任务概览“模型”部分

选择并下载模型,然后将其存储在项目目录中:

<dev-project-root>/app/shared/models

使用 baseOptions 对象 modelAssetPath 参数指定模型的路径,如下所示:

baseOptions: {
        modelAssetPath: `/app/shared/models/language_detector.tflite`
      }

创建任务

使用其中一个语言检测器 LanguageDetector.createFrom...() 函数来准备运行推断的任务。您可以将 createFromModelPath() 函数与训练后的模型文件的相对或绝对路径搭配使用。以下代码示例演示了如何使用 createFromOptions() 函数。如需详细了解如何配置任务,请参阅配置选项

以下代码演示了如何构建和配置此任务。

async function createDetector() {
  const textFiles = await FilesetResolver.forTextTasks(
      "https://cdn.jsdelivr.net/npm/@mediapipe/tasks-text@latest/wasm/");
  languageDetector = await languageDetector.createFromOptions(
    textFiles,
    {
      baseOptions: {
        modelAssetPath: `https://storage.googleapis.com/mediapipe-models/language_detector/language_detector/float32/1/language_detector.tflite`
      },
    }
  );
}
createDetector();

配置选项

此任务针对 Web 应用和 JavaScript 应用提供以下配置选项:

选项名称 说明 值范围 默认值
maxResults 设置要返回的得分最高的语言预测结果(可选)上限。如果此值小于零,则返回所有可用的结果。 任何正数 -1
scoreThreshold 设置预测分数阈值,以替换模型元数据中提供的阈值(如果有)。低于此值的结果会被拒绝。 任意浮点数 未设置
categoryAllowlist 设置允许的语言代码的可选列表。如果为非空,则语言代码不在此集合之外的语言预测结果将被滤除。此选项与 categoryDenylist 互斥,同时使用这两者会导致错误。 任何字符串 未设置
categoryDenylist 设置不允许使用的语言代码的可选列表。如果非空,语言代码在此集合中的语言预测将被滤除。此选项与 categoryAllowlist 互斥,同时使用这两者会导致错误。 任何字符串 未设置

准备数据

语言检测器支持文本 (string) 数据。该任务会处理数据输入预处理,包括标记化和张量预处理。 所有预处理都在 detect 函数中处理。无需事先对输入文本进行额外的预处理。

const inputText = "The input text for the detector.";

运行任务

语言检测器使用 detect 函数来触发推断。对于语言检测,这意味着返回输入文本可能使用的语言。

以下代码演示了如何使用任务模型执行处理:

// Wait to run the function until inner text is set
const detectionResult = languageDetector.detect(inputText);

处理和显示结果

语言检测器任务会输出一个 LanguageDetectorResult,其中包含语言预测列表以及这些预测的概率。下面显示了此任务的输出数据示例:

LanguageDetectorResult:
  LanguagePrediction #0:
    language_code: "fr"
    probability: 0.999781

通过对输入文本运行模型可获得此结果:"Il y a beaucoup de bouches qui parlent et fort peu de têtes qui pensent."

如需查看处理和直观呈现此任务结果所需的代码示例,请参阅 Web 示例应用