เริ่มต้นใช้งาน Gemini Nano บน Android (ในอุปกรณ์)

Gemini Nano รุ่นที่เล็กที่สุดในตระกูลรุ่น Gemini สามารถสั่งการ ในอุปกรณ์ Android ที่รองรับการใช้งาน โดยเริ่มจาก Google Pixel 8 Pro และ Samsung S24 Series

หากต้องการเรียกใช้โมเดล Gemini Nano บน Android คุณต้องใช้ Google AI Edge SDK สำหรับ Android ซึ่งมี API เพื่อดำเนินการต่อไปนี้

  • ตรวจดูว่าอุปกรณ์ที่รองรับการใช้งานระบบ Android ที่เกี่ยวข้องหรือไม่
  • รับสิทธิ์เข้าถึงโมเดล Gemini Nano
  • การตั้งค่าความปลอดภัยการปรับแต่ง
  • ใช้การอนุมานที่ประสิทธิภาพสูงและใช้โฆษณาสำรอง
  • เลือกให้บล็อกการปรับแต่ง LoRA เพื่อปรับปรุงประสิทธิภาพของโมเดลสำหรับ Use Case ของคุณ

API สำหรับการเข้าถึง Gemini Nano จะรองรับรูปแบบการแปลงข้อความเป็นข้อความ โดยจะรองรับวิธีการเพิ่มเติมในอนาคต

ข้อดีของการดำเนินการในอุปกรณ์

การดําเนินการในอุปกรณ์จะเปิดใช้สิ่งต่อไปนี้

  • การประมวลผลข้อมูลที่ละเอียดอ่อนในเครื่อง: การประมวลผลข้อมูลในเครื่องช่วยให้คุณหลีกเลี่ยงการส่งข้อมูลผู้ใช้ไปยังระบบคลาวด์ได้ ซึ่งสำคัญสำหรับแอปที่จัดการข้อมูลที่ละเอียดอ่อน เช่น แอปรับส่งข้อความที่มีการเข้ารหัสจากต้นทางถึงปลายทาง
  • การเข้าถึงแบบออฟไลน์: ผู้ใช้จะเข้าถึงฟีเจอร์ AI ได้แม้ว่าจะไม่ได้เชื่อมต่ออินเทอร์เน็ตก็ตาม ซึ่งจะเป็นประโยชน์สำหรับแอปพลิเคชันที่ต้องทำงานแบบออฟไลน์หรือเมื่อมีการเชื่อมต่อตัวแปร
  • ประหยัดค่าใช้จ่าย: คุณสามารถลดค่าใช้จ่ายในการอนุมานได้โดยการลดภาระของการดำเนินการไปยังฮาร์ดแวร์ของผู้บริโภค ซึ่งจะช่วยประหยัดค่าใช้จ่ายได้อย่างมากสำหรับการไหลเวียนของผู้ใช้ที่ใช้บ่อย

การใช้งาน Gemini ในอุปกรณ์มีประโยชน์หลายประการ แต่สำหรับกรณีการใช้งานที่ต้องใช้ Gemini รุ่นที่ใหญ่กว่า และเพื่อรองรับอุปกรณ์ที่หลากหลาย คุณอาจต้องพิจารณาใช้ Gemini API เพื่อเข้าถึง Gemini บนเซิร์ฟเวอร์ ซึ่งทำได้ผ่านการผสานรวมแบ็กเอนด์ (กับ Python, Go, Node.js หรือ REST) หรือจากแอป Android โดยตรงผ่าน SDK ไคลเอ็นต์ AI ของ Google ใหม่สำหรับ Android

วิธีการทำงาน

การดําเนินการของ Gemini Nano ในอุปกรณ์ขับเคลื่อนโดย Android AICore ซึ่งเป็นความสามารถใหม่ระดับระบบที่ให้สิทธิ์เข้าถึงโมเดลพื้นฐานสำหรับการปฏิบัติการในอุปกรณ์ซึ่งเปิดตัวใน Android 14 โมเดลพื้นฐานจะติดตั้งมาล่วงหน้าโดยใช้ AICore คุณจึงไม่ต้องดาวน์โหลดหรือเผยแพร่ภายในแอป คุณปรับแต่งโมเดลเหล่านี้สำหรับงานปลายทางได้ด้วย LoRa ตอนนี้ Android AICore พร้อมให้บริการเวอร์ชันที่ใช้งานจริงในอุปกรณ์ Google Pixel 8 Pro และ Samsung S24 Series และได้เปิดตัวฟีเจอร์ที่เป็นนวัตกรรมในแอป Google แล้ว

ดูข้อมูลเพิ่มเติมได้ที่ Android AICore

สถาปัตยกรรม AICore
รูปที่ 1 สถาปัตยกรรม AICore

ขั้นตอนถัดไป