Membangun Paket Wheel Python LiteRT

Halaman ini menjelaskan cara membuat Python tflite_runtime LiteRT library untuk x86_64 dan berbagai perangkat ARM.

Instruksi berikut telah diuji pada Ubuntu 16.04.3 64-bit PC (AMD64) , macOS Catalina (x86_64) dan image Docker devel TensorFlow tensorflow/tensorflow:devel.

Prasyarat

Anda perlu menginstal CMake dan menyalin kode sumber TensorFlow. Periksa Membangun LiteRT dengan CMake untuk detailnya.

Guna membangun paket PIP untuk workstation, Anda dapat menjalankan perintah perintah.

PYTHON=python3 tensorflow/lite/tools/pip_package/build_pip_package_with_cmake.sh native

Kompilasi silang ARM

Untuk kompilasi silang ARM, sebaiknya gunakan Docker karena untuk menyiapkan lingkungan build silang. Anda juga memerlukan opsi target untuk mencari tahu arsitektur target.

Ada alat bantuan di Makefile tensorflow/lite/tools/pip_package/Makefile memanggil perintah build menggunakan container Docker yang telah ditentukan. Pada di mesin host Docker, Anda dapat menjalankan perintah {i>build<i} sebagai berikut.

make -C tensorflow/lite/tools/pip_package docker-build \
  TENSORFLOW_TARGET=<target> PYTHON_VERSION=<python3 version>

Nama target yang tersedia

tensorflow/lite/tools/pip_package/build_pip_package_with_cmake.sh kebutuhan skrip nama target untuk mengetahui arsitektur target. Berikut adalah daftar dukungan target.

Target Arsitektur target Komentar
Armhf VFP ARMv7 dengan Neon Kompatibel dengan Raspberry Pi 3 dan 4
rpi0 ARMv6 Kompatibel dengan Raspberry Pi Zero
aarch64 aarch64 (ARM 64-bit) Coral Mendel Linux 4.0
Raspberry Pi dengan Ubuntu Server 20.04.01 LTS 64 bit
native Workstation Anda Fungsi tersebut membangun dengan "-mnative" pengoptimalan
default Workstation Anda Target default

Contoh build

Berikut beberapa contoh perintah yang dapat Anda gunakan.

Target armhf untuk Python 3.7

make -C tensorflow/lite/tools/pip_package docker-build \
  TENSORFLOW_TARGET=armhf PYTHON_VERSION=3.7

Target aarch64 untuk Python 3.8

make -C tensorflow/lite/tools/pip_package docker-build \
  TENSORFLOW_TARGET=aarch64 PYTHON_VERSION=3.8

Bagaimana cara menggunakan toolchain kustom?

Jika biner yang dihasilkan tidak kompatibel dengan target, Anda harus menggunakan toolchain sendiri atau sediakan flag build kustom. (Cek ini memahami lingkungan target) Dalam hal ini, Anda perlu memodifikasi tensorflow/lite/tools/cmake/download_toolchains.sh untuk menggunakan toolchain Anda sendiri. Skrip toolchain menentukan dua variabel berikut untuk Skrip build_pip_package_with_cmake.sh.

Variabel Tujuan contoh
ARMCC_PREFIX menentukan awalan toolchain arm-linux-gnueabihf-
ARMCC_FLAGS flag kompilasi -march=armv7-a -mfpu=neon-vfpv4