شروع به کار با Gemini Nano در Android (روی دستگاه)

Gemini Nano، کوچک‌ترین نسخه از خانواده مدل‌های Gemini، می‌تواند روی دستگاه‌های اندرویدی با قابلیت اجرا با پیکسل 8 پرو اجرا شود.

برای اجرای مدل Gemini Nano در اندروید، باید از Google AI Edge SDK برای اندروید استفاده کنید که API هایی را برای موارد زیر ارائه می کند:

  • تعیین کنید که آیا دستگاه مبتنی بر Android پشتیبانی می‌شود یا خیر.
  • به مدل Gemini Nano دسترسی پیدا کنید.
  • تنظیمات ایمنی را تنظیم کنید
  • استنتاج را با کارایی بالا اجرا کنید و بک گراندها را پیاده سازی کنید.
  • به صورت اختیاری، یک بلوک تنظیم دقیق LoRA برای بهبود عملکرد مدل برای مورد استفاده خود ارائه دهید.

API های دسترسی به Gemini Nano از حالت متن به متن پشتیبانی می کنند و در آینده مدالیته های بیشتری ارائه می شود.

مزایای اجرای بر روی دستگاه

اجرای روی دستگاه موارد زیر را فعال می کند:

  • پردازش محلی داده های حساس : پردازش داده ها به صورت محلی می تواند به شما کمک کند از ارسال داده های کاربر به ابر جلوگیری کنید. این برای برنامه‌هایی که داده‌های حساس را مدیریت می‌کنند، مانند برنامه‌های پیام‌رسانی با رمزگذاری سرتاسر مهم است.
  • دسترسی آفلاین : کاربران می توانند به ویژگی های هوش مصنوعی حتی زمانی که اتصال اینترنتی وجود ندارد دسترسی داشته باشند. این برای برنامه هایی که نیاز به کار آفلاین یا با اتصال متغیر دارند مفید است.
  • صرفه جویی در هزینه : شما می توانید هزینه های استنتاج را با بارگذاری اجرا به سخت افزار مصرف کننده کاهش دهید. این می تواند صرفه جویی قابل توجهی را برای جریان های کاربر که اغلب استفاده می شود ایجاد کند.

اجرای بر روی دستگاه Gemini مزایای بسیاری دارد. با این حال، برای موارد استفاده که به مدل‌های جمینی بزرگ‌تر نیاز دارند و برای پشتیبانی از طیف وسیعی از دستگاه‌ها، ممکن است بخواهید از Gemini API برای دسترسی به Gemini در سرور استفاده کنید. می‌توانید این کار را از طریق یکپارچه‌سازی باطن (با Python ، Go ، Node.js یا REST ) ​​یا مستقیماً از برنامه Android خود از طریق Google AI Client SDK برای Android انجام دهید.

چگونه کار می کند

اجرای روی دستگاه Gemini Nano توسط Android AICore ارائه می‌شود، یک قابلیت جدید در سطح سیستم که دسترسی به مدل‌های پایه را برای اجرای روی دستگاه فراهم می‌کند، که در Android 14 معرفی شده است. مدل‌های پایه با استفاده از AICore از قبل نصب شده‌اند، بنابراین شما نمی‌توانید باید آنها را دانلود یا در برنامه خود توزیع کنید. شما می توانید این مدل ها را برای کارهای پایین دستی با استفاده از LoRa تنظیم کنید. Android AICore اکنون در دستگاه‌های Pixel 8 Pro در حال تولید است و در حال حاضر ویژگی‌های نوآورانه را در برنامه‌های Google ارائه می‌کند.

برای اطلاعات بیشتر، Android AICore را ببینید.

معماری AICore
شکل 1. معماری AICore

بعدش چی