Créer un package LiteRT Python Wheel

Cette page explique comment compiler le code tflite_runtime LiteRT Python pour x86_64 et divers appareils ARM.

Les instructions suivantes ont été testées sur les PC 64 bits Ubuntu 16.04.3 (AMD64) , macOS Catalina (x86_64) et image Docker de développement TensorFlow tensorflow/tensorflow:devel.

Prérequis

Vous devez installer CMake et une copie du code source de TensorFlow. Veuillez vérifier Créer LiteRT avec CMake pour en savoir plus.

Pour créer le package PIP pour votre station de travail, vous pouvez exécuter la commande suivante : commandes.

PYTHON=python3 tensorflow/lite/tools/pip_package/build_pip_package_with_cmake.sh native

Compilation croisée ARM

Pour la compilation croisée ARM, il est recommandé d'utiliser Docker, car cela facilite pour configurer des environnements de compilation. Vous avez aussi besoin d'une option target pour déterminer l'architecture cible.

Il existe un outil d'aide dans Makefile tensorflow/lite/tools/pip_package/Makefile pour appeler une commande de compilation à l'aide d'un conteneur Docker prédéfini. Sur un Docker, vous pouvez exécuter une commande de compilation comme suit.

make -C tensorflow/lite/tools/pip_package docker-build \
  TENSORFLOW_TARGET=<target> PYTHON_VERSION=<python3 version>

Noms de cibles disponibles

tensorflow/lite/tools/pip_package/build_pip_package_with_cmake.sh script requis un nom de cible pour déterminer l'architecture cible. Voici la liste des appareils compatibles cibles.

Exemples de compilation

Voici quelques exemples de commandes que vous pouvez utiliser.

Cible armhf pour Python 3.7

make -C tensorflow/lite/tools/pip_package docker-build \
  TENSORFLOW_TARGET=armhf PYTHON_VERSION=3.7

Cible aarch64 pour Python 3.8

make -C tensorflow/lite/tools/pip_package docker-build \
  TENSORFLOW_TARGET=aarch64 PYTHON_VERSION=3.8

Comment utiliser une chaîne d'outils personnalisée ?

Si les binaires générés ne sont pas compatibles avec votre cible, vous devez utiliser votre propre chaîne d'outils ou fournir des indicateurs de compilation personnalisés. (Vérifier ce pour comprendre votre environnement cible). Dans ce cas, vous devez modifier tensorflow/lite/tools/cmake/download_toolchains.sh pour utiliser votre propre chaîne d'outils. Le script de chaîne d'outils définit les deux variables suivantes pour le build_pip_package_with_cmake.sh.