Gemini Nano ซึ่งเป็นโมเดล Gemini เวอร์ชันเล็กที่สุดจะทำงานในอุปกรณ์ Android ที่พร้อมใช้งานได้ โดยเริ่มจาก Google Pixel 8 Pro และ Samsung S24 Series
หากต้องการเรียกใช้โมเดล Gemini Nano ใน Android คุณต้องใช้ Google AI Edge SDK สําหรับ Android ซึ่งมี API ต่อไปนี้
- ตรวจสอบว่าระบบรองรับอุปกรณ์ที่ใช้ Android ที่เกี่ยวข้องหรือไม่
- รับสิทธิ์เข้าถึงโมเดล Gemini Nano
- ปรับการตั้งค่าความปลอดภัย
- เรียกใช้การอนุมานที่มีประสิทธิภาพสูงและใช้การทดแทน
- (ไม่บังคับ) ระบุบล็อกการปรับแต่ง LoRA เพื่อปรับปรุงประสิทธิภาพของโมเดลสำหรับกรณีการใช้งานของคุณ
API สำหรับการเข้าถึง Gemini Nano รองรับรูปแบบการแปลงจากข้อความเป็นข้อความ และจะรองรับรูปแบบอื่นๆ เพิ่มเติมในอนาคต
ประโยชน์ของการดำเนินการในอุปกรณ์
การดำเนินการในอุปกรณ์ช่วยให้ทำสิ่งต่อไปนี้ได้
- การประมวลผลข้อมูลที่ละเอียดอ่อนในเครื่อง: การประมวลผลข้อมูลในเครื่องจะช่วยคุณหลีกเลี่ยงการส่งข้อมูลผู้ใช้ไปยังระบบคลาวด์ ซึ่งสำคัญอย่างยิ่งสำหรับแอปที่จัดการข้อมูลที่มีความละเอียดอ่อน เช่น แอปรับส่งข้อความที่มีการเข้ารหัสจากต้นทางถึงปลายทาง
- การเข้าถึงแบบออฟไลน์: ผู้ใช้จะเข้าถึงฟีเจอร์ AI ได้แม้ว่าจะไม่มีการเชื่อมต่ออินเทอร์เน็ตก็ตาม ซึ่งมีประโยชน์สำหรับแอปพลิเคชันที่ต้องทำงานแบบออฟไลน์หรือมีการเชื่อมต่อที่ผันผวน
- ประหยัดค่าใช้จ่าย: คุณสามารถลดต้นทุนการอนุมานได้โดยการเปลี่ยนให้ฮาร์ดแวร์สำหรับผู้บริโภคทำงานแทน ซึ่งจะทําให้ประหยัดค่าใช้จ่ายได้อย่างมากสําหรับการเรียกใช้ที่ผู้ใช้ทําบ่อย
การดำเนินการของ Gemini ในอุปกรณ์มีข้อดีหลายประการ แต่สำหรับกรณีการใช้งานที่ต้องใช้ Gemini รุ่นที่ใหญ่ขึ้นและเพื่อรองรับอุปกรณ์ที่หลากหลาย คุณอาจต้องพิจารณาใช้ Gemini API เพื่อเข้าถึง Gemini บนเซิร์ฟเวอร์ คุณทําได้ผ่านการผสานรวมแบ็กเอนด์ (ด้วย Python, Go, Node.js หรือ REST) หรือจากแอป Android โดยตรงผ่าน SDK ไคลเอ็นต์ AI ของ Google สําหรับ Android เวอร์ชันใหม่
วิธีการทำงาน
การดำเนินการของ Gemini Nano ในอุปกรณ์ขับเคลื่อนโดย Android AICore ซึ่งเป็นความสามารถใหม่ระดับระบบที่ให้สิทธิ์เข้าถึงโมเดลพื้นฐานสําหรับการดําเนินการในอุปกรณ์ ซึ่งเปิดตัวใน Android 14 ระบบจะติดตั้งโมเดลพื้นฐานไว้ล่วงหน้าโดยใช้ AICore คุณจึงไม่ต้องดาวน์โหลดหรือเผยแพร่โมเดลเหล่านี้ภายในแอป โดยสามารถปรับแต่งโมเดลเหล่านี้ให้เหมาะกับงานดาวน์สตรีมได้โดยใช้ LoRa ตอนนี้ AICore ของ Android พร้อมใช้งานในอุปกรณ์ Google Pixel 8 Pro และ Samsung S24 Series แล้ว และกำลังขับเคลื่อนฟีเจอร์ใหม่ๆ ในแอป Google
ดูข้อมูลเพิ่มเติมได้ที่ Android AICore
ขั้นตอนถัดไป
- หากต้องการดูวิธีใช้ประโยชน์จากการอนุมานของ Gemini Pro บนเซิร์ฟเวอร์ของ Google ในแอป Android โปรดอ่านคู่มือเริ่มต้นใช้งานสำหรับ Google AI Client SDK สำหรับ Android