คุณจะเรียกใช้โมเดล Gemma ในอุปกรณ์ได้ทั้งหมดด้วย MediaPipe LLM Inference API LLM Inference API ทำหน้าที่เป็น Wrapper สำหรับโมเดลภาษาขนาดใหญ่ ทำให้คุณสามารถเรียกใช้โมเดลของ Gemma ในอุปกรณ์สำหรับงานการสร้างข้อความให้เป็นข้อความทั่วไป เช่น การดึงข้อมูล การร่างอีเมล และการสรุปเอกสาร
ลองใช้ LLM Inference API กับ MediaPipe Studio ซึ่งเป็นแอปพลิเคชันบนเว็บสำหรับการประเมินและปรับแต่งโมเดลในอุปกรณ์
LLM Inference API พร้อมใช้งานในแพลตฟอร์มต่อไปนี้
โปรดดูข้อมูลเพิ่มเติมในเอกสารประกอบการอนุมาน MediaPipe LLM