TensorFlow Lite'ın savaşta test edilmiş temeli üzerine kurulmuştur.
LiteRT sadece yeni bir ürün değil, aynı zamanda dünyanın en yaygın kullanılan makine öğrenimi çalışma zamanının yeni nesli. Her gün kullandığınız uygulamalara güç vererek milyarlarca cihazda düşük gecikme süresi ve yüksek gizlilik sağlar.
En önemli Google uygulamaları tarafından güvenle kullanılır
100.000'den fazla uygulama, dünya genelinde milyarlarca kullanıcı
LiteRT'de Öne Çıkanlar
Platformlar Arası Kullanıma Hazır
Üretken yapay zekanın gücünden yararlanma
Basitleştirilmiş donanım hızlandırma
Çoklu çerçeve desteği
LiteRT aracılığıyla dağıtma
Eğitimden cihaz üzerinde dağıtıma kadar derin öğrenme iş akışınızı kolaylaştırın.
1.Model edinme
.tflite uzantılı önceden eğitilmiş modelleri kullanın veya PyTorch, JAX ya da TensorFlow modellerini .tflite uzantılı modellere dönüştürün.
2.Optimize etme
Eğitim sonrası modellerinizi nicelleştirmek için LiteRT optimizasyon araç setini kullanın.
3.Run
Modelinizi LiteRT ile dağıtın ve uygulamanız için en uygun hızlandırıcıyı seçin.
Geliştirme yolunuzu seçme
Yüksek performanslı mobil uygulamalardan kaynak açısından sınırlı IoT cihazlarına kadar her yerde yapay zeka dağıtmak için LiteRT'yi kullanın.
Mevcut TFLite Kullanıcısı
Platformlar (Android, masaüstü, web) arasında gelişmiş performanstan ve birleşik API'lerden yararlanmak için LiteRT'ye geçiş yapın.
BYOM : Kendi modellerinizi getirin
Cihaz üzerinde görme veya ses deneyimleri uygulamak isteyen bir PyTorch modeline sahip olmak
Üretken yapay zeka modellerini dağıtma
Gemma gibi optimize edilmiş açık ağırlıklı üretken yapay zeka modellerini veya başka bir açık ağırlıklı modeli kullanarak cihaz üzerinde gelişmiş chatbot'lar oluşturma.
[İleri Düzey] Model Uzmanı
Özel modeller oluşturma veya en yüksek performans için donanıma özel derin CPU/GPU/NPU optimizasyonları gerçekleştirme.
Örnekler, modeller ve demo
GitHub'da LiteRT örnek uygulamasına bakın
Uçtan uca örnek uygulamalar.
Üretken yapay zeka modellerini inceleyin
Önceden eğitilmiş, kullanıma hazır üretken yapay zeka modelleri.
Demoları inceleyin - Google AI Edge Gallery uygulaması
LiteRT kullanılarak cihaz üzerinde makine öğrenimi/üretken yapay zeka kullanım alanlarının sergilendiği bir galeri.
Bloglar ve Duyurular
LiteRT ekibinin en son duyurularından, teknik ayrıntılı incelemelerinden ve performans karşılaştırmalarından haberdar olun.
LiteRT: Cihaz üzerinde yapay zeka için evrensel çerçeve
Yüksek performanslı dağıtım için TFLite'tan geliştirilen Google'ın birleşik cihaz üzerinde ML çerçevesi.
MediaTek NPU ve LiteRT: Yeni nesil cihaz üzerinde yapay zekanın arkasındaki güç
Yüksek verimli yapay zeka için NPU hızlandırma desteğini MediaTek yonga setlerine genişletme
LiteRT ile Qualcomm NPU'da En Yüksek Performansı Elde Etme
Qualcomm sinirsel işlem birimlerinde üretken yapay zeka için çığır açan performansın kilidini açma.
LiteRT: Maksimum Performans, Basitleştirilmiş
Otomatik donanım seçimi ve eşzamansız yürütme için CompiledModel API'yi kullanıma sunuyoruz.
LiteRT-LM ile Chrome, Chromebook Plus ve Pixel Watch'ta cihaz üzerinde üretken yapay zeka
LiteRT-LM'yi kullanarak giyilebilir cihazlarda ve tarayıcı tabanlı platformlarda dil modelleri dağıtın.
Google AI Edge küçük dil modelleri, çok formatlılık ve işlev çağrısı
Sınırdaki dil modelleri için RAG, çok formatlılık ve işlev çağrısı ile ilgili en son analizler
Topluluğa Katılın
LiteRT GitHub Topluluğu
Doğrudan projeye katkıda bulunun ve temel geliştiricilerle ortak çalışın.
Hugging Face Hub
Hugging Face Hub'da optimize edilmiş açık ağırlıklı modellere erişin.