Mengonversi model AI Generatif PyTorch untuk inferensi di perangkat
AI Edge Torch Generative API adalah library berperforma tinggi yang dirancang untuk membuat dan mengonversi model PyTorch berbasis transformer ke format LiteRT/LiteRT-LM. Hal ini memungkinkan developer men-deploy model AI generatif dengan lancar, khususnya Model Bahasa Besar (LLM), untuk pembuatan teks dan gambar di perangkat dengan mudah.
Torch Generative API mendukung konversi model untuk eksekusi CPU dan GPU, dengan dukungan NPU dalam pengembangan. Dengan menyandingkan Torch Generative API dengan
LiteRT-LM, Anda dapat membangun aplikasi responsif yang berfokus pada privasi
yang menjalankan model generatif sepenuhnya di perangkat.
[[["Mudah dipahami","easyToUnderstand","thumb-up"],["Memecahkan masalah saya","solvedMyProblem","thumb-up"],["Lainnya","otherUp","thumb-up"]],[["Informasi yang saya butuhkan tidak ada","missingTheInformationINeed","thumb-down"],["Terlalu rumit/langkahnya terlalu banyak","tooComplicatedTooManySteps","thumb-down"],["Sudah usang","outOfDate","thumb-down"],["Masalah terjemahan","translationIssue","thumb-down"],["Masalah kode / contoh","samplesCodeIssue","thumb-down"],["Lainnya","otherDown","thumb-down"]],["Terakhir diperbarui pada 2025-12-22 UTC."],[],[]]
