LiteRT CompiledModel Kotlin API

API-ja LiteRT CompiledModel është e disponueshme në Kotlin, duke u ofruar zhvilluesve të Android një përvojë të përsosur, me përshpejtues të parë, me API-të e nivelit të lartë. Për një shembull, shihni Aplikacionin Kotlin për Segmentimin e Imazheve .

Udhëzuesi i mëposhtëm tregon konkluzionin bazë të CPU-së të API-t CompiledModel Kotlin. Shihni udhëzuesin mbi përshpejtimin e GPU-së dhe përshpejtimin e NPU-së për veçoritë e përparuara të përshpejtimit.

Shto paketën Maven

Shtoni paketën LiteRT Maven në projektin tuaj Android:

dependencies {
  ...
  implementation `com.google.ai.edge.litert:litert:2.1.0`
}

Krijo Modelin CompiledModel

Inicializoni kohën e ekzekutimit me një model dhe zgjedhjen tuaj të përshpejtimit të harduerit:

val  model =
  CompiledModel.create(
    context.assets,
    "mymodel.tflite",
    CompiledModel.Options(Accelerator.CPU),
    env,
  )

Krijo bufera hyrëse dhe dalëse

Krijoni strukturat e nevojshme të të dhënave (buferat) për të mbajtur të dhënat hyrëse që do t'i ushqeni modelit për përfundim, dhe të dhënat dalëse që modeli prodhon pas ekzekutimit të përfundimit.

val inputBuffers = model.createInputBuffers()
val outputBuffers = model.createOutputBuffers()

Nëse përdorni memorien e CPU-së, plotësoni të dhënat hyrëse duke shkruar të dhëna direkt në memorjen e parë të hyrjes.

inputBuffers[0].writeFloat(FloatArray(data_size) { data_value /* your data */ })

Thirrni modelin

Duke siguruar buffer-at e hyrjes dhe daljes, ekzekutoni modelin.

model.run(inputBuffers, outputBuffers)

Merrni Rezultatet

Merrni rezultatet duke lexuar drejtpërdrejti daljen e modelit nga memoria.

val outputFloatArray = outputBuffers[0].readFloat()

Përdorni TensorBuffer

LiteRT ofron mbështetje të integruar për ndërveprimin e buffer-ave I/O, duke përdorur API-në Tensor Buffer ( TensorBuffer ) për të trajtuar rrjedhën e të dhënave brenda dhe jashtë CompiledModel . API-ja Tensor Buffer ofron mundësinë për të shkruar ( Write<T>() ) dhe lexuar ( Read<T>() ), si dhe për të bllokuar buffer-at.

Për një pamje më të plotë se si zbatohet API-ja Tensor Buffer, shihni kodin burimor në TensorBuffer.kt .