LiteRT Next udostępnia ujednolicony interfejs do korzystania z jednostek przetwarzania neuronowego (NPU) bez konieczności indywidualnego poruszania się po kompilatorach, środowiskach wykonawczych czy zależnościach bibliotecznych poszczególnych dostawców. Korzystanie z LiteRT Next do akceleracji NPU pozwala uniknąć wielu komplikacji związanych z konkretnymi dostawcami lub urządzeniami, zwiększa wydajność w przypadku wnioskowania w czasie rzeczywistym i w przypadku dużych modeli oraz minimalizuje kopiowanie pamięci dzięki wykorzystaniu bufora sprzętowego bez kopiowania.
Jeśli uczestniczysz już w programie wcześniejszego dostępu do LiteRT NPU, zaloguj się na autoryzowane konto, aby wyświetlić dokumentację NPU. Jeśli nie uczestniczysz jeszcze w programie wcześniejszego dostępu, zarejestruj się w nim:
W przypadku dużych modeli językowych (LLM) zalecamy korzystanie z naszej platformy LiteRT-LM, która obsługuje wymagane przetwarzanie kompleksowe na potrzeby wykonywania na NPU:
[[["Łatwo zrozumieć","easyToUnderstand","thumb-up"],["Rozwiązało to mój problem","solvedMyProblem","thumb-up"],["Inne","otherUp","thumb-up"]],[["Brak potrzebnych mi informacji","missingTheInformationINeed","thumb-down"],["Zbyt skomplikowane / zbyt wiele czynności do wykonania","tooComplicatedTooManySteps","thumb-down"],["Nieaktualne treści","outOfDate","thumb-down"],["Problem z tłumaczeniem","translationIssue","thumb-down"],["Problem z przykładami/kodem","samplesCodeIssue","thumb-down"],["Inne","otherDown","thumb-down"]],["Ostatnia aktualizacja: 2025-09-03 UTC."],[],[]]
