A API AI Edge Torch Generative é uma biblioteca para converter modelos do PyTorch baseados em transformadores para o formato LiteRT. Assim, é possível converter modelos de linguagem grande (LLMs) para geração de imagens e textos no dispositivo com o LiteRT-LM. No momento, a API Generativa do AI Edge Torch é compatível com CPU e GPU, e há suporte planejado para NPU.
Os desenvolvedores podem usar a API Generativa para integrar LLMs do PyTorch
com o LiteRT-LM e criar apps que
executam esses modelos convertidos do PyTorch completamente no dispositivo.
[[["Fácil de entender","easyToUnderstand","thumb-up"],["Meu problema foi resolvido","solvedMyProblem","thumb-up"],["Outro","otherUp","thumb-up"]],[["Não contém as informações de que eu preciso","missingTheInformationINeed","thumb-down"],["Muito complicado / etapas demais","tooComplicatedTooManySteps","thumb-down"],["Desatualizado","outOfDate","thumb-down"],["Problema na tradução","translationIssue","thumb-down"],["Problema com as amostras / o código","samplesCodeIssue","thumb-down"],["Outro","otherDown","thumb-down"]],["Última atualização 2025-12-06 UTC."],[],[]]
