Halaman ini menjelaskan cara membuat Python tflite_runtime
LiteRT
library untuk x86_64 dan berbagai perangkat ARM.
Instruksi berikut telah diuji pada Ubuntu 16.04.3 64-bit PC (AMD64) , macOS Catalina (x86_64) dan image Docker devel TensorFlow tensorflow/tensorflow:devel.
Prasyarat
Anda perlu menginstal CMake dan menyalin kode sumber TensorFlow. Periksa Membangun LiteRT dengan CMake untuk detailnya.
Guna membangun paket PIP untuk workstation, Anda dapat menjalankan perintah perintah.
PYTHON=python3 tensorflow/lite/tools/pip_package/build_pip_package_with_cmake.sh native
Kompilasi silang ARM
Untuk kompilasi silang ARM, sebaiknya gunakan Docker karena
untuk menyiapkan lingkungan build silang. Anda juga memerlukan opsi target
untuk mencari tahu
arsitektur target.
Ada alat bantuan di Makefile tensorflow/lite/tools/pip_package/Makefile
memanggil perintah build menggunakan container Docker yang telah ditentukan. Pada
di mesin host Docker, Anda dapat menjalankan
perintah {i>build<i} sebagai berikut.
make -C tensorflow/lite/tools/pip_package docker-build \
TENSORFLOW_TARGET=<target> PYTHON_VERSION=<python3 version>
Nama target yang tersedia
tensorflow/lite/tools/pip_package/build_pip_package_with_cmake.sh
kebutuhan skrip
nama target untuk mengetahui arsitektur target. Berikut adalah daftar dukungan
target.
Target | Arsitektur target | Komentar |
---|---|---|
Armhf | VFP ARMv7 dengan Neon | Kompatibel dengan Raspberry Pi 3 dan 4 |
rpi0 | ARMv6 | Kompatibel dengan Raspberry Pi Zero |
aarch64 | aarch64 (ARM 64-bit) | Coral Mendel Linux 4.0 Raspberry Pi dengan Ubuntu Server 20.04.01 LTS 64 bit |
native | Workstation Anda | Fungsi tersebut membangun dengan "-mnative" pengoptimalan |
default | Workstation Anda | Target default |
Contoh build
Berikut beberapa contoh perintah yang dapat Anda gunakan.
Target armhf untuk Python 3.7
make -C tensorflow/lite/tools/pip_package docker-build \
TENSORFLOW_TARGET=armhf PYTHON_VERSION=3.7
Target aarch64 untuk Python 3.8
make -C tensorflow/lite/tools/pip_package docker-build \
TENSORFLOW_TARGET=aarch64 PYTHON_VERSION=3.8
Bagaimana cara menggunakan toolchain kustom?
Jika biner yang dihasilkan tidak kompatibel dengan target, Anda harus menggunakan
toolchain sendiri atau sediakan flag build kustom. (Cek
ini
memahami lingkungan target) Dalam hal ini, Anda perlu memodifikasi
tensorflow/lite/tools/cmake/download_toolchains.sh
untuk menggunakan toolchain Anda sendiri.
Skrip toolchain menentukan dua variabel berikut untuk
Skrip build_pip_package_with_cmake.sh
.
Variabel | Tujuan | contoh |
---|---|---|
ARMCC_PREFIX |
menentukan awalan toolchain | arm-linux-gnueabihf- |
ARMCC_FLAGS |
flag kompilasi | -march=armv7-a -mfpu=neon-vfpv4 |