Die AI Edge Torch Generative API ist eine Bibliothek zum Konvertieren von Transformer-basierten PyTorch-Modellen in das LiteRT-Format. So können Sie Large Language Models (LLMs) für die On-Device-Bild- und Textgenerierung mit LiteRT-LM konvertieren. Die generative API von AI Edge Torch unterstützt derzeit CPUs und GPUs. Die Unterstützung von NPUs ist geplant.
Entwickler können die Generative API verwenden, um PyTorch-LLMs mit LiteRT-LM zu integrieren und Apps zu erstellen, die diese konvertierten PyTorch-Modelle vollständig auf dem Gerät ausführen.
[[["Leicht verständlich","easyToUnderstand","thumb-up"],["Mein Problem wurde gelöst","solvedMyProblem","thumb-up"],["Sonstiges","otherUp","thumb-up"]],[["Benötigte Informationen nicht gefunden","missingTheInformationINeed","thumb-down"],["Zu umständlich/zu viele Schritte","tooComplicatedTooManySteps","thumb-down"],["Nicht mehr aktuell","outOfDate","thumb-down"],["Problem mit der Übersetzung","translationIssue","thumb-down"],["Problem mit Beispielen/Code","samplesCodeIssue","thumb-down"],["Sonstiges","otherDown","thumb-down"]],["Zuletzt aktualisiert: 2025-12-06 (UTC)."],[],[]]
