マイクロコントローラ用 LiteRT

ML モデルを実行するために設計された LiteRT for Microcontrollers わずか数キロバイトのメモリしか持たないマイクロコントローラなどのデバイス上で 実行されています「 コアランタイムは Arm Cortex M3 で 16 KB に収まり、多くの基本的な実行が可能 構築できますオペレーティング システムのサポート、標準の C または C++ 言語は 動的メモリ割り当てです

マイクロコントローラが重要な理由

マイクロコントローラは通常、小型で低消費電力のコンピューティング デバイスで、 基本的な計算を必要とするハードウェアに組み込まれたシステムです。マシンを 超小型マイクロコントローラまで学習することで、 数十億台のコンピュータのインテリジェンスを 家庭用電化製品やインターネット デバイスなど、私たちが日常的に使用するデバイス 高価なハードウェアや信頼性の高いインターネットに頼らずに Things デバイス 帯域幅と電力の制約により制約を受けることも珍しくありません。 レイテンシが高くなりますまた、これによりデータが一切含まれないため、プライバシーの デバイス外に持ち出されます。日々の生活に適応できるスマート家電を 一般的な産業用インテリジェント センサーは、 さまざまな問題や通常の動作、子供たちが楽しく学べる魔法のおもちゃ 楽しみながら学習を進めていきます。

対応プラットフォーム

LiteRT for Microcontrollers は C++ 17 で記述されており、32 ビット できます。Google の AI に基づく多くのプロセッサで幅広くテストされ、 Arm Cortex-M シリーズ 他のアーキテクチャに移植されており、 ESP32。「 フレームワークを Arduino ライブラリとして利用できます。また、組織、フォルダ、 開発環境です。これはオープンソースであり 使用できます。

次の開発ボードがサポートされています。

例を見る

各サンプル アプリケーションは、 GitHub サポートされている環境にデプロイする方法を説明する README.md ファイルがあります。 説明します。一部の例には、特定のトピックを使用したエンドツーエンドのチュートリアルが 次のとおりです。

ワークフロー

TensorFlow モデルを Compute Engine インスタンスにデプロイして実行するには、 マイクロコントローラー：

  1. モデルをトレーニングする: <ph type="x-smartling-placeholder">
  2. C++ ライブラリを使用してデバイスで推論を実行し、 表示されます。

制限事項

LiteRT for Microcontrollers は、 マイクロコントローラの開発に 専念できますより高性能なデバイス（ たとえば、Raspberry Pi などの組み込み Linux デバイスの場合、標準の LiteRT フレームワークは統合しやすい場合があります。

次の制限事項を考慮する必要があります。

  • 限定されたサブセットをサポート TensorFlow のオペレーション
  • 一部のデバイスのみサポート
  • 手動でのメモリ管理を必要とする低レベルの C++ API
  • オンデバイス トレーニングはサポートされていません

次のステップ