Экосистема Android включает в себя широкий спектр устройств с разнообразными нейронными процессорами (NPU). Использование этих специализированных NPU может значительно ускорить вывод модели LiteRT (TFLite) и снизить энергопотребление по сравнению с выполнением процессора или графического процессора, улучшая взаимодействие с пользователем в ваших приложениях.
Делегаты TFLite в настоящее время находятся в стадии разработки, чтобы позволить вашему приложению использовать конкретное оборудование на устройстве каждого пользователя. Этих делегатов будут предоставлять поставщики микросхем, производящие NPU.
Мы с нетерпением ожидаем поддержки делегатов от следующих поставщиков в ближайшие месяцы:
- Google Пиксель
- МедиаТек
- Квалкомм
- Системная БИС Samsung
Следите за обновлениями и дополнительными инструкциями по использованию этих делегатов для использования возможностей NPU в ваших моделях TFLite.