Di chuyển từ TensorFlow Lite sang LiteRT

Tất cả hoạt động phát triển mới cho thời gian chạy hiệu suất cao của Google dành cho AI trên thiết bị sẽ chỉ có trên LiteRT. Các ứng dụng sử dụng gói TensorFlow Lite sẽ tiếp tục hoạt động, nhưng mọi bản cập nhật mới sẽ chỉ được đưa vào các gói LiteRT. Các API LiteRT có tên phương thức giống như các API TF Lite, vì vậy, việc di chuyển sang LiteRT không yêu cầu thay đổi mã chi tiết.

Đối với các thay đổi về tên gói, hãy xem hướng dẫn di chuyển sau đây cho các nền tảng cụ thể.

Chuyển dữ liệu bằng Android

Để di chuyển một ứng dụng Android bằng Tensorflow Lite, hãy thay thế phần phụ thuộc từ org.tensorflow:tensorflow-lite thành com.google.ai.edge.litert. Kho lưu trữ LiteRT Maven bao gồm các gói sau:

Bạn có thể thay đổi điều này trong các phần phụ thuộc build.gradle:

dependencies {
  ...
  implementation `com.google.ai.edge.litert:litert:1.4.1`
}

Dịch vụ Play

LiteRT trong thời gian chạy Dịch vụ Play sẽ tiếp tục sử dụng phần phụ thuộc play-services-tflite. Nếu ứng dụng của bạn đang sử dụng thời gian chạy Dịch vụ Play với TensorFlow Lite, thì bạn không cần thay đổi mã.

Để sử dụng LiteRT trong Dịch vụ Play, hãy thêm nội dung sau vào các phần phụ thuộc build.gradle của bạn:

dependencies {
...
    // LiteRT dependencies for Google Play services
    implementation 'com.google.android.gms:play-services-tflite-java:16.4.0'
    // Optional: include LiteRT Support Library
    implementation 'com.google.android.gms:play-services-tflite-support:16.4.0'
...
}

Di chuyển bằng Python

Để di chuyển mã Python bằng Tensorflow Lite, hãy thay thế gói PIP từ tflite-runtime thành ai-edge-litert.

Cài đặt LiteRT bằng PIP:

$ python3 -m pip install ai-edge-litert

Nhập LiteRT bằng cách sử dụng nội dung sau:

from ai_edge_litert.interpreter import Interpreter
interpreter = Interpreter(model_path=args.model_file)

Thư viện khác

Các SDK Swift và Objective-C cho iOS, C++ SDK, Thư viện tác vụ và thư viện Model Maker vẫn tồn tại trong API TensorFlow Lite. Các ứng dụng sử dụng những SDK hoặc thư viện này không nên di chuyển sang LiteRT.