Gemma ile cihaz üzerinde oluşturma

MediaPipe LLM çıkarımı ile Gemma modellerini tamamen cihaz üzerinde çalıştırabilirsiniz. API. İlgili içeriği oluşturmak için kullanılan LLM Inference API, büyük dil modelleri için bir sarmalayıcı işlevi görür ve Gemma, bilgi gibi yaygın metinden metne oluşturma görevleri için cihaz üzerinde modeller e-posta taslağı hazırlama ve belge özetleme.

MediaPipe ile LLM Inference API'yi deneyin Studio'da cihaz üzerindeki modelleri değerlendirmek ve özelleştirmek için kullanılan web tabanlı bir uygulamadır.

LLM Inference API aşağıdaki platformlarda kullanılabilir:

Daha fazla bilgi edinmek için MediaPipe LLM Çıkarımı dokümanlarına göz atın.