Cihaz üzerinde çıkarım için PyTorch üretken yapay zeka modellerini dönüştürme
AI Edge Torch Generative API, Transformer tabanlı PyTorch modellerini LiteRT/LiteRT-LM biçimine dönüştürmek ve oluşturmak için tasarlanmış yüksek performanslı bir kitaplıktır. Bu sayede geliştiriciler, cihaz üzerinde metin ve resim oluşturmak için üretken yapay zeka modellerini, özellikle de büyük dil modellerini (LLM'ler) sorunsuz bir şekilde dağıtabilir.
Torch Generative API, NPU desteği geliştirme aşamasında olmak üzere CPU ve GPU yürütmesi için model dönüştürmeyi destekler. Torch Generative API'yi LiteRT-LM ile eşleştirerek üretken modelleri tamamen cihaz üzerinde çalıştıran, gizliliğe odaklı ve duyarlı uygulamalar oluşturabilirsiniz.
[[["Anlaması kolay","easyToUnderstand","thumb-up"],["Sorunumu çözdü","solvedMyProblem","thumb-up"],["Diğer","otherUp","thumb-up"]],[["İhtiyacım olan bilgiler yok","missingTheInformationINeed","thumb-down"],["Çok karmaşık / çok fazla adım var","tooComplicatedTooManySteps","thumb-down"],["Güncel değil","outOfDate","thumb-down"],["Çeviri sorunu","translationIssue","thumb-down"],["Örnek veya kod sorunu","samplesCodeIssue","thumb-down"],["Diğer","otherDown","thumb-down"]],["Son güncelleme tarihi: 2025-12-22 UTC."],[],[]]
