메타데이터를 사용한 LiteRT 추론

메타데이터로 모델 추론은 코드 몇 줄만 추가하면 됩니다. LiteRT 메타데이터에는 모델의 역할과 모델 사용 방법을 알아야 합니다. 코드 생성기가 다음을 수행하도록 지원할 수 있습니다. Android Studio ML 바인딩 기능 또는 LiteRT Android 코드 생성기. 또한 Cloud Build를 사용하여 커스텀 추론 파이프라인을 구성할 수 있습니다

도구 및 라이브러리

LiteRT는 다양한 도구와 라이브러리를 제공하여 다양한 배포 요구사항의 등급은 다음과 같습니다.

Android 코드 생성기로 모델 인터페이스 생성

필요한 Android 래퍼 코드를 자동으로 생성하는 방법에는 두 가지가 있습니다. 메타데이터가 있는 LiteRT 모델의 경우

  1. Android 스튜디오 ML 모델 결합 도구를 사용할 수 있습니다. Android 스튜디오 내에서 그래픽 인터페이스를 통해 LiteRT 모델을 인터페이스에 추가되었습니다. Android 스튜디오에서 자동으로 모델을 빌드하고 모델 메타데이터를 기반으로 래퍼 클래스를 생성합니다.

  2. LiteRT 코드 생성기는 메타데이터를 기반으로 모델 인터페이스를 자동으로 생성합니다. 현재는 Java를 사용하는 Android를 지원합니다. 래퍼 코드는 ByteBuffer를 사용하여 직접 가져올 수도 있습니다. 대신 개발자는 BitmapRect와 같은 유형이 지정된 객체가 있는 LiteRT 모델 Android 스튜디오 사용자는 다음을 통해 코드 생성 기능에 액세스할 수도 있습니다. Android 스튜디오 ML 바인딩

LiteRT 지원 라이브러리로 커스텀 추론 파이프라인 빌드

LiteRT 지원 라이브러리는 크로스 플랫폼 라이브러리입니다. 모델 인터페이스를 맞춤설정하고 추론 파이프라인을 빌드하는 데 도움이 되는 모델입니다 그것은 사전/사후 작업을 수행하는 다양한 유틸리티 메서드와 데이터 구조가 포함되어 있습니다. 두 가지 주요 개념입니다. 또한 이 측정항목은 TF.Image 및 TF.Text와 같은 TensorFlow 모듈을 통해 학습에서 추론을 시작합니다.

메타데이터를 사용하여 선행 학습된 모델 살펴보기

Kaggle 모델을 탐색하여 비전 및 텍스트 작업 모두를 위한 메타데이터가 포함된 선행 학습된 모델 다운로드 또한 이미지, 이미지, 동영상 등의 이미지를 시각화하는 메타데이터를 참고하세요.

LiteRT 지원 GitHub 저장소

LiteRT 지원 GitHub 방문 저장소에서 더 많은 예시와 소스를 확인하세요. 생성합니다.