Optimiser les performances d'un modèle de ML sur différents appareils mobiles peut s'avérer difficile.
Les tests manuels sont lents, coûteux et souvent inaccessibles à la plupart des développeurs, ce qui entraîne des incertitudes sur les performances du modèle dans le monde réel. Le portail Google AI Edge permet de comparer les modèles LiteRT sur un large éventail d'appareils mobiles, ce qui aide les développeurs à trouver les meilleures configurations pour le déploiement de modèles de ML à grande échelle.
Optimiser le déploiement du ML sur mobile
Simplifiez et accélérez les cycles de test sur l'ensemble du paysage matériel : évaluez facilement les performances du modèle sur des centaines d'appareils mobiles représentatifs en quelques minutes.
Assurez-vous de la qualité du modèle de manière proactive et identifiez les problèmes à un stade précoce: identifiez les variations ou régressions de performances spécifiques au matériel (comme sur des chipsets particuliers ou des appareils à mémoire limitée) avant le déploiement.
Réduisez les coûts de test des appareils et accédez au dernier matériel: effectuez des tests sur un parc d'appareils physiques diversifié et en constante augmentation (actuellement plus de 100 modèles d'appareils de différents OEM Android) sans avoir à gérer votre propre laboratoire.
Prenez des décisions et bénéficiez d'une intelligence métier puissantes, basées sur les données: le portail Google AI Edge fournit des données et des comparaisons de performances riches, et offre l'intelligence métier essentielle pour optimiser les modèles en toute confiance et valider leur aptitude au déploiement.
Exemple de benchmark:
Comment le Google AI Edge Portal vous aide à comparer vos modèles LiteRT
Importer et configurer: importez votre fichier de modèle via l'UI ou pointez-y dans votre bucket Google Cloud Storage.
Sélectionner des accélérateurs: spécifiez les tests sur le CPU ou le GPU (avec basculement automatique sur le CPU). La prise en charge des NPU est prévue pour les prochaines versions.
Sélectionner des appareils: choisissez les appareils cibles parmi notre vaste ensemble à l'aide de filtres (niveau de l'appareil, marque, chipset, RAM) ou sélectionnez des listes sélectionnées avec des raccourcis pratiques.
Créez une tâche d'analyse comparative sur plus de 100 appareils. (Remarque: Le GIF est accéléré et modifié pour plus de concision.)
Envoyez ensuite votre tâche et attendez qu'elle soit terminée. Une fois que vous êtes prêt, explorez les résultats dans le tableau de bord interactif:
Comparer les configurations: visualisez rapidement les différences entre les métriques de performances (par exemple, la latence moyenne, la mémoire de pointe) lorsque vous utilisez différents accélérateurs sur tous les appareils testés.
Analyser l'impact sur les appareils: découvrez les performances d'une configuration de modèle spécifique sur la gamme d'appareils sélectionnés. Utilisez des histogrammes et des graphiques en nuage de points pour identifier rapidement les variations de performances liées aux caractéristiques de l'appareil.
Métriques détaillées: accédez à un tableau détaillé et triable qui affiche des métriques spécifiques (temps d'initialisation, latence d'inférence, utilisation de la mémoire) pour chaque appareil, ainsi que ses spécifications matérielles.
Affichez les résultats du benchmark dans le tableau de bord interactif. (Remarque: Le GIF est accéléré et modifié pour plus de concision.)
Rejoindre la version Preview privée du Google AI Edge Portal
Le portail Google AI Edge est disponible en version preview privée pour les clients Google Cloud figurant sur la liste d'autorisation. Pendant cette période de version preview privée, l'accès est fourni sans frais, sous réserve des conditions de la version preview.
Cet aperçu est idéal pour les développeurs et les équipes qui créent des applications de ML mobile avec LiteRT, qui ont besoin de données de benchmarking fiables sur différents matériels Android et qui sont prêts à fournir des commentaires pour façonner l'avenir du produit. Pour demander l'accès, remplissez ce formulaire d'inscription. L'accès est accordé via une liste d'autorisation.
Sauf indication contraire, le contenu de cette page est régi par une licence Creative Commons Attribution 4.0, et les échantillons de code sont régis par une licence Apache 2.0. Pour en savoir plus, consultez les Règles du site Google Developers. Java est une marque déposée d'Oracle et/ou de ses sociétés affiliées.
Dernière mise à jour le 2025/06/17 (UTC).
[[["Facile à comprendre","easyToUnderstand","thumb-up"],["J'ai pu résoudre mon problème","solvedMyProblem","thumb-up"],["Autre","otherUp","thumb-up"]],[["Il n'y a pas l'information dont j'ai besoin","missingTheInformationINeed","thumb-down"],["Trop compliqué/Trop d'étapes","tooComplicatedTooManySteps","thumb-down"],["Obsolète","outOfDate","thumb-down"],["Problème de traduction","translationIssue","thumb-down"],["Mauvais exemple/Erreur de code","samplesCodeIssue","thumb-down"],["Autre","otherDown","thumb-down"]],["Dernière mise à jour le 2025/06/17 (UTC)."],[],[],null,["# Google AI Edge Portal\n\n| **Note:** Google AI Edge Portal is in Private Preview and supports .litert models on GPU \\& CPU at this time. Complete our [sign-up form](https://docs.google.com/forms/d/e/1FAIpQLSfTcGPycQve8TLAsfH46pBlXBZe9FrgJAClwbF7DeL1LgVn4Q/viewform?usp=header) to request access.\n\n**AI Edge's Google Cloud solution for testing and benchmarking on-device machine learning (ML) at scale.**\n\n[Sign Up](https://docs.google.com/forms/d/e/1FAIpQLSfTcGPycQve8TLAsfH46pBlXBZe9FrgJAClwbF7DeL1LgVn4Q/viewform?usp=header)\n\nOptimizing ML model performance across diverse mobile devices can be challenging.\nManual testing is slow, costly, and often inaccessible to most developers,\nleading to uncertainties in real-world model performance. Google AI Edge\nPortal solves this by **enabling LiteRT model benchmarking across a wide-range\nof mobile devices**, helping developers find the best configurations for\nlarge-scale ML model deployment.\n\nOptimizing mobile ML deployment\n-------------------------------\n\n- **Simplify \\& accelerate testing cycles across the diverse hardware landscape**:\n Effortlessly assess model performance across hundreds of\n representative mobile devices in minutes.\n\n- **Proactively assure model quality \\& identify issues early**: Pinpoint\n hardware-specific performance variations or regressions (like on particular\n chipsets or memory-constrained devices) before deployment.\n\n- **Lower device testing cost \\& access latest hardware**: Test on diverse and\n continually growing fleet of physical devices (currently 100+ device models\n from various Android OEMs) without the expense and complexity of maintaining\n your own lab.\n\n- **Unlock powerful, data-driven decisions \\& business intelligence**: Google AI\n Edge Portal delivers rich performance data and comparisons, providing the\n crucial business intelligence needed to confidently guide model optimization\n and validate deployment readiness.\n\nExample benchmark:\n\n\u003cbr /\u003e\n\nHow Google AI Edge Portal helps you benchmark your LiteRT models\n----------------------------------------------------------------\n\n1. **Upload \\& configure**: Upload your model file via the UI or point to it in your\n Google Cloud Storage bucket.\n\n2. **Select accelerators**: Specify testing against CPU or GPU (with automatic CPU\n fallback). NPU support is planned for future releases.\n\n3. **Select devices**: Choose target devices from our diverse pool using filters\n (device tier, brand, chipset, RAM) or select curated lists with convenient\n shortcuts.\n\n\u003cbr /\u003e\n\n\n*Create a New Benchmark Job on 100+ Devices. (Note: GIF is accelerated and edited for brevity)*\n\nFrom there, submit your job and await completion. Once ready, explore the\nresults in the Interactive Dashboard:\n\n- **Compare configurations**: Quickly visualize how performance metrics (e.g.,\n average latency, peak memory) differ when using different accelerators across\n all tested devices.\n\n- **Analyze device impact**: See how a specific model configuration performs across\n the range of selected devices. Use histograms and scatter plots to quickly\n identify performance variations tied to device characteristics.\n\n- **Detailed metrics**: Access a detailed, sortable table showing specific metrics\n (initialization time, inference latency, memory usage) for each individual\n device, alongside its hardware specifications.\n\n\u003cbr /\u003e\n\n\n*View Benchmark Results on the interactive Dashboard. (Note: GIF is accelerated and edited for brevity)*\n\nJoin the Google AI Edge Portal private preview\n----------------------------------------------\n\nGoogle AI Edge Portal is available in private preview for allowlisted Google\nCloud customers. During this private preview period, access is provided at no\ncharge, subject to the preview terms.\n\nThis preview is ideal for developers and teams building mobile ML applications\nwith LiteRT who need reliable benchmarking data across diverse Android hardware\nand are willing to provide feedback to help shape the product's future. To\nrequest access, complete our [sign-up form here](https://docs.google.com/forms/d/e/1FAIpQLSfTcGPycQve8TLAsfH46pBlXBZe9FrgJAClwbF7DeL1LgVn4Q/viewform?usp=header)\nto express interest. Access is granted via allowlisting."]]
