Üretken Yapay Zeka Uç Feneri
API
dönüştürücü tabanlı PyTorch modellerini
LiteRT biçimi sayesinde büyük dil modellerini (LLM)
cihaz üzerinde resim ve metin oluşturma olanağı sunar. AI Edge Torch Generative API şu anda yalnızca CPU olarak kullanılabilmekte olup planlı GPU ve NPU desteği sunulmaktadır.
Mobil uygulama geliştiricileri, PyTorch LLM'lerini entegre etmek için Edge Generative API'yi kullanabilir
MediaPipe LLM Çıkarımı
API'yı kullanarak
dönüştürülmüş PyTorch modellerinin tamamını cihaz üzerinde çalıştırabilirsiniz.
[[["Anlaması kolay","easyToUnderstand","thumb-up"],["Sorunumu çözdü","solvedMyProblem","thumb-up"],["Diğer","otherUp","thumb-up"]],[["İhtiyacım olan bilgiler yok","missingTheInformationINeed","thumb-down"],["Çok karmaşık / çok fazla adım var","tooComplicatedTooManySteps","thumb-down"],["Güncel değil","outOfDate","thumb-down"],["Çeviri sorunu","translationIssue","thumb-down"],["Örnek veya kod sorunu","samplesCodeIssue","thumb-down"],["Diğer","otherDown","thumb-down"]],["Son güncelleme tarihi: 2025-07-24 UTC."],[],[],null,["# Convert generative PyTorch models\n\nThe [AI Edge Torch Generative\nAPI](https://github.com/google-ai-edge/ai-edge-torch/tree/main/ai_edge_torch/generative/)\nis a mobile-optimized library for converting transformer-based PyTorch models to\nthe LiteRT format, enabling you to convert Large Language Models (LLMs) for\non-device image and text generation with LiteRT and MediaPipe. The AI Edge Torch Generative API is currently CPU-only, with planned GPU and NPU support.\n\nMobile app developers can use the Edge Generative API to integrate PyTorch LLMs\nwith the [MediaPipe LLM Inference\nAPI](../../mediapipe/solutions/genai/llm_inference/index) to create apps that\nrun those converted PyTorch models completely on-device.\n\nFor more information, see the Generative Torch API [GitHub\nrepo](https://github.com/google-ai-edge/ai-edge-torch/tree/main/ai_edge_torch/generative/)."]]
