AI Edge Torch Generative API, dönüştürücü tabanlı PyTorch modellerini LiteRT biçimine dönüştürmek için kullanılan bir kitaplıktır. Bu kitaplık, LiteRT-LM ile cihaz üzerinde görüntü ve metin oluşturma için büyük dil modellerini (LLM'ler) dönüştürmenizi sağlar. AI Edge Torch
Generative API şu anda CPU ve GPU'yu desteklemektedir. NPU desteği planlanmaktadır.
Geliştiriciler, dönüştürülmüş PyTorch modellerini tamamen cihaz üzerinde çalıştıran uygulamalar oluşturmak için Generative API'yi kullanarak PyTorch LLM'leri LiteRT-LM ile entegre edebilir.
Daha fazla bilgi için Generative Torch API GitHub
repo'ya bakın.
[[["Anlaması kolay","easyToUnderstand","thumb-up"],["Sorunumu çözdü","solvedMyProblem","thumb-up"],["Diğer","otherUp","thumb-up"]],[["İhtiyacım olan bilgiler yok","missingTheInformationINeed","thumb-down"],["Çok karmaşık / çok fazla adım var","tooComplicatedTooManySteps","thumb-down"],["Güncel değil","outOfDate","thumb-down"],["Çeviri sorunu","translationIssue","thumb-down"],["Örnek veya kod sorunu","samplesCodeIssue","thumb-down"],["Diğer","otherDown","thumb-down"]],["Son güncelleme tarihi: 2025-12-06 UTC."],[],[]]
