在 Android 裝置上開始使用 Gemini Nano

Gemini Nano 是 Gemini 模型系列的最小版本 Gemini 搭載 Android 裝置的功能，從 Google Pixel 8 Pro 開始 Samsung S24 系列

如要在 Android 上執行 Gemini Nano 模型，請使用 Google AI Edge SDK for Android 專為以下用途提供 API：

  • 判斷是否支援基礎 Android 裝置。
  • 使用 Gemini Nano 模型。
  • 調整安全設定。
  • 在高效能執行推論並實作備用項目。
  • 您也可以視需要提供 LoRA 微調區塊，提升 我們也有專用的模型

用於存取 Gemini Nano 的 API 支援文字轉文字模式，並提供更多功能 。

在裝置上執行的好處

裝置端執行功能可啟用以下功能：

  • 在本機處理機密資料：在本機處理資料可協助您 避免將使用者資料傳送至雲端這對於處理 機密資料，例如採用端對端加密的訊息應用程式。
  • 離線存取：即使沒有網路，也能使用 AI 功能 網際網路連線。對於需要執行 離線或變換連線方式
  • 節省費用：您可以將執行作業卸載至 消費性硬體這麼做可為常用帳戶省下可觀的費用 使用者流程

在裝置端執行 Gemini 有許多優點：但用途 需要較大的 Gemini 模型，而且支援多種裝置 考慮透過 Gemini API 在伺服器上使用 Gemini個人中心 方法有兩種：使用後端整合 (使用 Python、 Go、Node.js 或 REST) 或直接透過 Android 應用程式 適用於 Android 的 Google AI 用戶端 SDK。

運作方式

在裝置端執行 Gemini Nano 採用的是 Android AICore 新推出的 為裝置端提供基礎模型的系統層級功能 執行 (引入 Android 14 版本)基礎模型會透過 AICore，不必在應用程式中下載或發布這些內容。個人中心 可使用 LoRa 微調這些模型以進行下游工作Android AICore 已 Google Pixel 8 Pro 和 Samsung S24 系列裝置現已推出正式版 並已開始支援 Google 應用程式的創新功能

詳情請參閱「Android AICore」。

AICore 架構
圖 1. AICore 架構

後續步驟