AI Edge Torch Generative API adalah library untuk mengonversi model PyTorch berbasis transformer ke format LiteRT, sehingga Anda dapat mengonversi Model Bahasa Besar (LLM) untuk pembuatan gambar dan teks di perangkat dengan LiteRT-LM. AI Edge Torch Generative API saat ini mendukung CPU dan GPU, dengan dukungan NPU yang direncanakan.
Developer dapat menggunakan Generative API untuk mengintegrasikan LLM PyTorch dengan LiteRT-LM guna membuat aplikasi yang menjalankan model PyTorch yang dikonversi tersebut sepenuhnya di perangkat.
Untuk mengetahui informasi selengkapnya, lihat repo GitHub Generative Torch API.
[[["Mudah dipahami","easyToUnderstand","thumb-up"],["Memecahkan masalah saya","solvedMyProblem","thumb-up"],["Lainnya","otherUp","thumb-up"]],[["Informasi yang saya butuhkan tidak ada","missingTheInformationINeed","thumb-down"],["Terlalu rumit/langkahnya terlalu banyak","tooComplicatedTooManySteps","thumb-down"],["Sudah usang","outOfDate","thumb-down"],["Masalah terjemahan","translationIssue","thumb-down"],["Masalah kode / contoh","samplesCodeIssue","thumb-down"],["Lainnya","otherDown","thumb-down"]],["Terakhir diperbarui pada 2025-12-06 UTC."],[],[]]
