TensorFlow Lite hiện là LiteRT. LiteRT là thời gian chạy chính cho AI hiệu suất cao trên thiết bị của Google. Mặc dù các gói TensorFlow Lite hiện có vẫn hoạt động, nhưng tất cả các bản cập nhật tính năng và cải thiện hiệu suất trong tương lai sẽ chỉ có trong LiteRT. Vì LiteRT hoàn toàn hỗ trợ TensorFlow Lite Interpreter API, nên việc di chuyển chỉ yêu cầu cập nhật tên gói mà không cần thay đổi logic.
Đối với các thay đổi về tên gói, hãy xem hướng dẫn di chuyển sau đây cho các nền tảng cụ thể.
Di chuyển trên Android
Để di chuyển một ứng dụng Android bằng Tensorflow Lite, hãy thay thế phần phụ thuộc từ org.tensorflow:tensorflow-lite thành com.google.ai.edge.litert. Kho lưu trữ LiteRT Maven bao gồm các gói sau:
com.google.ai.edge.litert:litertcom.google.ai.edge.litert:litert-gpucom.google.ai.edge.litert:litert-metadatacom.google.ai.edge.litert:litert-support
Bạn có thể thực hiện thay đổi này trong các phần phụ thuộc build.gradle:
dependencies {
...
implementation `com.google.ai.edge.litert:litert:2.1.0`
}
Dịch vụ Play
LiteRT trong thời gian chạy Dịch vụ Play sẽ tiếp tục sử dụng phần phụ thuộc play-services-tflite. Nếu ứng dụng của bạn đang sử dụng thời gian chạy Dịch vụ Play với TensorFlow Lite, thì bạn không cần thay đổi mã.
Để sử dụng LiteRT trong Dịch vụ Play, hãy thêm nội dung sau vào các phần phụ thuộc build.gradle của bạn:
dependencies {
...
// LiteRT dependencies for Google Play services
implementation 'com.google.android.gms:play-services-tflite-java:16.4.0'
// Optional: include LiteRT Support Library
implementation 'com.google.android.gms:play-services-tflite-support:16.4.0'
...
}
Di chuyển bằng Python
Để di chuyển mã Python bằng Tensorflow Lite, hãy thay thế gói PIP từ tflite-runtime thành ai-edge-litert.
Cài đặt LiteRT bằng PIP:
$ python3 -m pip install ai-edge-litert
Nhập LiteRT bằng cách sử dụng nội dung sau:
from ai_edge_litert.interpreter import Interpreter
interpreter = Interpreter(model_path=args.model_file)
Thư viện khác
Các SDK Swift và Objective-C cho iOS, C++ SDK, Thư viện tác vụ và thư viện Model Maker vẫn tồn tại trong các gói TensorFlow Lite. Các ứng dụng sử dụng những SDK hoặc thư viện này không nên di chuyển sang LiteRT.