Google AI Edge | Google AI for Developers

Google AI Edge Portal のご紹介: エッジ AI を大規模にベンチマークします。限定公開プレビュー中にアクセスをリクエストするには、登録してください。

エッジデバイスで高性能なクロスプラットフォーム LLM デプロイを実現するように設計された、本番環境対応のオープンソース推論フレームワーク。

概要開始する

Chrome、Chromebook Plus、Google Pixel Watch のオンデバイス生成 AI（LiteRT-LM）。

詳細

LiteRT-LM を選ぶ理由

Android、iOS、ウェブ、パソコンに LLM をデプロイします。

GPU と NPU のアクセラレーションでパフォーマンスを最大化します。

一般的な LLM のほか、マルチモーダル（Vision、Audio）とツール使用のサポート。

Linux、MacOS、Windows、Raspberry Pi でハードウェアアクセラレーションを使用する Python API。

ネイティブ Android アプリと JVM ベースのデスクトップツール。

専用の Metal サポートによる iOS と macOS のネイティブ統合（Swift API は近日公開予定）。

クロスプラットフォーム C++ API。

LiteRT-LM を使用して、ウェアラブルやブラウザベースのプラットフォームに言語モデルを大規模にデプロイします。

FunctionGemma をファインチューニングし、LiteRT-LM Tool Use API を活用した関数呼び出し機能を有効にする方法について説明します。

エッジ言語モデルの RAG、マルチモダリティ、関数呼び出しに関する最新の分析情報。

オープンソースプロジェクトに貢献し、問題を報告して、例を確認します。

変換済みのモデルをダウンロードして、ディスカッションに参加してください。