LiteRT позволяет запускать модели TensorFlow, PyTorch и JAX в ваших приложениях iOS. Система LiteRT предоставляет готовые и настраиваемые среды выполнения для быстрого и эффективного запуска моделей на iOS с дополнительной гибкостью управления версиями и дополнительными делегатами, такими как coreML и Metal, для повышения производительности.
Примеры приложений iOS, использующих LiteRT, см. в репозитории примеров LiteRT .
Добавьте LiteRT в свой проект Swift или Objective-C.
LiteRT предлагает собственные библиотеки iOS, написанные на Swift и Objective-C .
В разделах ниже показано, как добавить LiteRT Swift или Objective-C в ваш проект:
Разработчики CocoaPods
В свой Podfile
добавьте модуль LiteRT. Затем запустите pod install
.
Быстрый
use_frameworks!
pod 'TensorFlowLiteSwift'
Цель-C
pod 'TensorFlowLiteObjC'
Указание версий
Для модулей TensorFlowLiteSwift
и TensorFlowLiteObjC
доступны стабильные выпуски и ночные выпуски. Если вы не укажете ограничение версии, как в приведенных выше примерах, CocoaPods по умолчанию получит последнюю стабильную версию.
Вы также можете указать ограничение версии. Например, если вы хотите зависеть от версии 2.10.0, вы можете записать зависимость как:
pod 'TensorFlowLiteSwift', '~> 2.10.0'
Это обеспечит использование в вашем приложении последней доступной версии модуля TensorFlowLiteSwift
2.xy. В качестве альтернативы, если вы хотите зависеть от ночных сборок, вы можете написать:
pod 'TensorFlowLiteSwift', '~> 0.0.1-nightly'
Начиная с версии 2.4.0 и последних ночных выпусков, делегаты GPU и Core ML по умолчанию исключаются из модуля, чтобы уменьшить размер двоичного файла. Вы можете включить их, указав подспецификацию:
pod 'TensorFlowLiteSwift', '~> 0.0.1-nightly', :subspecs => ['CoreML', 'Metal']
Это позволит вам использовать новейшие функции, добавленные в LiteRT. Обратите внимание: как только файл Podfile.lock
будет создан при первом запуске команды pod install
, ночная версия библиотеки будет заблокирована на текущей дате. Если вы хотите обновить ночную библиотеку до более новой, вам следует запустить команду pod update
.
Дополнительные сведения о различных способах указания ограничений версий см. в разделе Указание версий модуля .
Разработчики Базела
В файле BUILD
добавьте зависимость TensorFlowLite
к вашей цели.
Быстрый
swift_library(
deps = [
"//tensorflow/lite/swift:TensorFlowLite",
],
)
Цель-C
objc_library(
deps = [
"//tensorflow/lite/objc:TensorFlowLite",
],
)
API С/С++
Альтернативно вы можете использовать C API или C++ API.
# Using C API directly
objc_library(
deps = [
"//tensorflow/lite/c:c_api",
],
)
# Using C++ API directly
objc_library(
deps = [
"//tensorflow/lite:framework",
],
)
Импортируйте библиотеку
Для файлов Swift импортируйте модуль LiteRT:
import TensorFlowLite
Для файлов Objective-C импортируйте зонтичный заголовок:
#import "TFLTensorFlowLite.h"
Или модуль, если вы установили CLANG_ENABLE_MODULES = YES
в своем проекте Xcode:
@import TFLTensorFlowLite;