AI Edge Torch Generative API to biblioteka do konwertowania modeli PyTorch opartych na architekturze Transformer na format LiteRT. Umożliwia ona konwertowanie dużych modeli językowych (LLM) na potrzeby generowania obrazów i tekstu na urządzeniu za pomocą LiteRT-LM. Interfejs AI Edge Torch Generative API obsługuje obecnie procesory CPU i GPU, a w przyszłości będzie obsługiwać też procesory NPU.
Deweloperzy mogą używać interfejsu Generative API do integrowania dużych modeli językowych PyTorch z LiteRT-LM, aby tworzyć aplikacje, które uruchamiają przekonwertowane modele PyTorch w całości na urządzeniu.
Więcej informacji znajdziesz w repozytorium GitHub interfejsu Generative Torch API.
[[["Łatwo zrozumieć","easyToUnderstand","thumb-up"],["Rozwiązało to mój problem","solvedMyProblem","thumb-up"],["Inne","otherUp","thumb-up"]],[["Brak potrzebnych mi informacji","missingTheInformationINeed","thumb-down"],["Zbyt skomplikowane / zbyt wiele czynności do wykonania","tooComplicatedTooManySteps","thumb-down"],["Nieaktualne treści","outOfDate","thumb-down"],["Problem z tłumaczeniem","translationIssue","thumb-down"],["Problem z przykładami/kodem","samplesCodeIssue","thumb-down"],["Inne","otherDown","thumb-down"]],["Ostatnia aktualizacja: 2025-12-06 UTC."],[],[]]
