PyTorch モデルを LiteRT に変換する

AI Edge Torch は、PyTorch モデルを .tflite に変換できるライブラリです。 形式であり、LiteRT や MediaPipe でこれらのモデルを実行できます。 これは、モデルを実行するモバイルアプリを作成するデベロッパーに特に役立ちます。 できます。AI Edge Torch は初期 GPU を備え、幅広い CPU に対応 サポートしています

PyTorch モデルを LiteRT に変換するには、Pytorch コンバータを使用します。 クイックスタートをご覧ください。詳細については、AI Edge Torch をご覧ください。 GitHub リポジトリ。

特に大規模言語モデル（LLM）または Generative Torch API を使用する。 モデルの作成、変換など、Transformer 固有のコンバージョンの詳細を あります。

変換ワークフロー

次の手順では、PyTorch の単純なエンドツーエンドの変換を示します。 LiteRT に送信します。

AI Edge Torch をインポート

まず、AI Edge Torch（ai-edge-torch）の pip パッケージと 説明します。

import ai_edge_torch
import torch

この例では、次のパッケージも必要です。

import numpy
import torchvision

モデルを初期化して変換する

ここでは、 ResNet18、 画像認識モデルです。

resnet18 = torchvision.models.resnet18(torchvision.models.ResNet18_Weights.IMAGENET1K_V1).eval()

AI Edge Torch ライブラリの convert メソッドを使用して PyTorch を変換します。 モデルです。

sample_input = (torch.randn(1, 3, 224, 224),)
edge_model = ai_edge_torch.convert(resnet18.eval(), sample_input)

モデルを使用する

Pytorch モデルを変換したら、新しいツールで推論を実行できます。 変換された LiteRT モデルです。

output = edge_model(*sample_inputs)

変換されたモデルは、今後のために .tflite 形式でエクスポートして保存できます あります。

edge_model.export('resnet.tflite')