Вывод моделей с метаданными может быть таким же простым, как и несколько строк кода. Метаданные LiteRT содержат подробное описание того, что делает модель и как ее использовать. Он может предоставить генераторам кода возможность автоматически генерировать для вас код вывода, например, с помощью функции привязки Android Studio ML или генератора кода LiteRT Android . Его также можно использовать для настройки собственного конвейера вывода.
Инструменты и библиотеки
LiteRT предоставляет множество инструментов и библиотек для удовлетворения различных уровней требований к развертыванию, а именно:
Создайте интерфейс модели с помощью генераторов кода Android.
Существует два способа автоматического создания необходимого кода оболочки Android для модели LiteRT с метаданными:
Привязка модели Android Studio ML — это инструмент, доступный в Android Studio для импорта модели LiteRT через графический интерфейс. Android Studio автоматически настроит параметры проекта и создаст классы-оболочки на основе метаданных модели.
LiteRT Code Generator — это исполняемый файл, который автоматически генерирует интерфейс модели на основе метаданных. В настоящее время он поддерживает Android с Java. Код-обертка устраняет необходимость напрямую взаимодействовать с
ByteBuffer
. Вместо этого разработчики могут взаимодействовать с моделью LiteRT с помощью типизированных объектов, таких какBitmap
иRect
. Пользователи Android Studio также могут получить доступ к функции генерации кода через Android Studio ML Binding .
Создавайте собственные конвейеры вывода с помощью библиотеки поддержки LiteRT.
Библиотека поддержки LiteRT — это кроссплатформенная библиотека, которая помогает настраивать интерфейс модели и строить конвейеры вывода. Он содержит различные методы использования и структуры данных для выполнения предварительной/постобработки и преобразования данных. Он также разработан для соответствия поведению модулей TensorFlow, таких как TF.Image и TF.Text, обеспечивая согласованность от обучения до вывода.
Изучите предварительно обученные модели с метаданными
Просмотрите модели Kaggle, чтобы загрузить предварительно обученные модели с метаданными как для зрительных, так и для текстовых задач. Также смотрите различные варианты визуализации метаданных .
LiteRT Поддержка репозитория GitHub
Посетите репозиторий LiteRT Support GitHub, чтобы получить дополнительные примеры и исходный код.