LiteRT: wydajny framework uczenia maszynowego na urządzeniu | Google AI Edge

Przedstawiamy Google AI Edge Portal: benchmark Edge AI na dużą skalę. Zarejestruj się, aby poprosić o dostęp podczas wersji prywatnej.

LiteRT to platforma Google do wdrażania na urządzeniach modeli uczenia maszynowego i generatywnej AI o wysokiej wydajności na platformach brzegowych.

Wydajne konwersje, czas działania i optymalizacja na potrzeby uczenia maszynowego na urządzeniu.

Oparta na sprawdzonej platformie TensorFlow Lite

LiteRT to nie tylko nowość, ale też nowa generacja najczęściej wdrażanego na świecie środowiska wykonawczego uczenia maszynowego. Umożliwia działanie aplikacji, których używasz na co dzień, zapewniając niskie opóźnienia i wysoki poziom prywatności na miliardach urządzeń.

Zaufane przez najważniejsze aplikacje Google

Ponad 100 tys. aplikacji i miliardy użytkowników na całym świecie

Najważniejsze informacje o LiteRT

Gotowość do działania na wielu platformach

Wykorzystaj generatywną AI

Uproszczona akceleracja sprzętowa

Obsługa wielu platform

Wdrażanie za pomocą LiteRT

Uprość przepływ pracy deep learningu od trenowania po wdrażanie na urządzeniu.

1.Uzyskaj model

Używaj wstępnie wytrenowanych modeli .tflite lub konwertuj modele PyTorch, JAX lub TensorFlow na format .tflite.

Więcej informacji o konwersjach

2.Optymalizacja

Użyj zestawu narzędzi do optymalizacji LiteRT, aby skwantyzować modele po trenowaniu.

Poznaj optymalizację

3.Bieg

Wdróż model za pomocą LiteRT i wybierz optymalny akcelerator dla swojej aplikacji.

Wyświetlanie celów wdrożenia

Wybierz ścieżkę rozwoju

Używaj LiteRT do wdrażania AI w dowolnym miejscu – od wydajnych aplikacji mobilnych po urządzenia IoT o ograniczonych zasobach.

Dotychczasowy użytkownik TFLite

Przejście na LiteRT, aby korzystać z większej wydajności i ujednoliconych interfejsów API na różnych platformach (Android, komputery, internet).

BYOM : Bring your own Models

Masz model PyTorch i chcesz wdrożyć na urządzeniu funkcje związane z obrazem lub dźwiękiem.

Wdrażanie modeli generatywnej AI

Tworzenie zaawansowanych chatbotów na urządzeniach przy użyciu zoptymalizowanych modeli generatywnej AI o otwartej architekturze, takich jak Gemma lub inny model o otwartej architekturze.

[Zaawansowane] Ekspert ds. modeli

Tworzenie modeli niestandardowych lub przeprowadzanie szczegółowych optymalizacji sprzętowych pod kątem procesora, karty graficznej lub jednostki NPU w celu uzyskania maksymalnej wydajności.