Việc suy luận các mô hình bằng siêu dữ liệu có thể dễ dàng chỉ bằng một vài dòng mã. Siêu dữ liệu LiteRT chứa nội dung mô tả chi tiết về chức năng và cách sử dụng mô hình. Việc này có thể giúp các trình tạo mã tự động tạo mã suy luận cho bạn, chẳng hạn như sử dụng tính năng Liên kết mô hình máy học của Android Studio hoặc trình tạo mã Android LiteRT. Bạn cũng có thể dùng công cụ này để định cấu hình quy trình suy luận tuỳ chỉnh.
Công cụ và thư viện
LiteRT cung cấp nhiều công cụ và thư viện để đáp ứng các cấp độ khác nhau của yêu cầu triển khai như sau:
Tạo giao diện mô hình bằng trình tạo mã Android
Có hai cách để tự động tạo mã trình bao bọc Android cần thiết cho mô hình LiteRT có siêu dữ liệu:
Tính năng liên kết mô hình ML của Android Studio là một công cụ có trong Android Studio để nhập mô hình LiteRT thông qua giao diện đồ hoạ. Android Studio sẽ tự động định cấu hình các chế độ cài đặt cho dự án và tạo các lớp bao bọc dựa trên siêu dữ liệu mô hình.
LiteRT Code Generator là một tệp thực thi tự động tạo giao diện mô hình dựa trên siêu dữ liệu. Công cụ này hiện hỗ trợ Android bằng Java. Mã trình bao bọc giúp bạn không cần tương tác trực tiếp với
ByteBuffer. Thay vào đó, nhà phát triển có thể tương tác với mô hình LiteRT bằng các đối tượng được nhập nhưBitmapvàRect. Người dùng Android Studio cũng có thể truy cập vào tính năng tạo mã thông qua Android Studio ML Binding (Liên kết ML của Android Studio).
Tạo các quy trình suy luận tuỳ chỉnh bằng Thư viện hỗ trợ LiteRT
Thư viện hỗ trợ LiteRT là một thư viện đa nền tảng giúp tuỳ chỉnh giao diện mô hình và tạo các quy trình suy luận. Nó chứa nhiều phương thức tiện ích và cấu trúc dữ liệu để thực hiện quá trình xử lý trước/sau và chuyển đổi dữ liệu. Ngoài ra, thư viện này cũng được thiết kế để phù hợp với hành vi của các mô-đun TensorFlow, chẳng hạn như TF.Image và TF.Text, đảm bảo tính nhất quán từ quá trình huấn luyện đến suy luận.
Khám phá các mô hình được huấn luyện trước bằng siêu dữ liệu
Duyệt xem Kaggle Models để tải các mô hình được huấn luyện trước có siêu dữ liệu cho cả tác vụ về thị giác và văn bản. Bạn cũng có thể xem các lựa chọn khác về cách trực quan hoá siêu dữ liệu.
Kho lưu trữ GitHub hỗ trợ LiteRT
Hãy truy cập vào kho lưu trữ GitHub hỗ trợ LiteRT để xem thêm ví dụ và mã nguồn.