Zgjidhja Google Cloud e AI Edge për testimin dhe krahasimin e të mësuarit automatik (ML) në pajisje në shkallë të gjerë.
Optimizimi i performancës së modelit ML në pajisje të ndryshme mobile mund të jetë sfidues. Testimi manual është i ngadaltë, i kushtueshëm dhe shpesh i paarritshëm për shumicën e zhvilluesve, duke çuar në pasiguri në performancën e modelit në botën reale. Google AI Edge Portal e zgjidh këtë duke mundësuar krahasimin e modelit LiteRT në një gamë të gjerë pajisjesh mobile , duke i ndihmuar zhvilluesit të gjejnë konfigurimet më të mira për vendosjen e modelit ML në shkallë të gjerë.
Optimizimi i vendosjes së ML në celular
Thjeshtoni dhe përshpejtoni ciklet e testimit në të gjithë peizazhin e larmishëm të pajisjeve : Vlerësoni pa mundim performancën e modelit në qindra pajisje mobile përfaqësuese brenda disa minutash.
Siguroni në mënyrë proaktive cilësinë e modelit dhe identifikoni problemet herët : Përcaktoni ndryshimet ose regresionet e performancës specifike për harduerin (si në çipe të caktuara ose pajisje me memorie të kufizuar) para vendosjes.
Kosto më e ulët e testimit të pajisjeve dhe akses në pajisjet më të fundit : Testoni në një flotë të larmishme dhe në rritje të vazhdueshme të pajisjeve fizike (aktualisht mbi 100 modele pajisjesh nga prodhues të ndryshëm të pajisjeve origjinale Android) pa shpenzimet dhe kompleksitetin e mirëmbajtjes së laboratorit tuaj.
Zhbllokoni vendime dhe inteligjencë biznesi të fuqishme, të bazuara në të dhëna : Google AI Edge Portal ofron të dhëna të pasura të performancës dhe krahasime, duke ofruar inteligjencën thelbësore të biznesit të nevojshme për të udhëhequr me besim optimizimin e modelit dhe për të validuar gatishmërinë e vendosjes.
Shembull i pikës referuese:
Si ju ndihmon Google AI Edge Portal të krahasoni modelet tuaja LiteRT
Zgjidhni pajisjet : Zgjidhni pajisjet tuaja të synuara nga grupi ynë i gjerë duke përdorur filtra specifikë harduerësh - duke përfshirë mbështetjen e NPU-së, nivelin e pajisjes, markën, çipsetin dhe RAM-in. Si alternativë, përdorni shkurtoret tona të kuruara për qasje të menjëhershme në listat e pajisjeve të njohura.
Krijo Konfigurime : Zgjidhni midis përshpejtuesve të CPU-së, GPU-së ose NPU-së për detyrat tuaja të krahasimit.
Përshtatje e Avancuar : Rregulloni cilësimet specifike të harduerit për përshpejtuesin e zgjedhur ose vazhdoni me vlerat fillestare.
Mbështetja e NPU-së : Aftësitë e përshpejtimit të harduerit tani përfshijnë NPU-të, duke paraqitur një flotë prej mbi 30 pajisjesh Qualcomm.
- Përpilimi paraprak (AOT) : Rekomandohet për performancë në nivel prodhimi, duke ofruar inicializim dukshëm më të shpejtë dhe një gjurmë më të ulët memorieje. Ky modalitet kërkon ofrimin e modeleve të përpiluara për çdo SoC unik në zgjedhjen e pajisjes suaj.
- Kompilimi Just-In-Time (JIT) : Mbështet një model të vetëm për kompilim në të gjitha pajisjet e zgjedhura.
Ngarko Modele : Ngarko skedarin e modelit duke përdorur ndërfaqen e përdoruesit ose drejtohu tek ai në skarën tënde të Google Cloud Storage.
Krijo një Punë të Re Standarde në mbi 100 Pajisje. (Shënim: GIF është përshpejtuar dhe redaktuar për shkurtësi)
Nga aty, dorëzoni punën tuaj dhe prisni përfundimin. Pasi të jeni gati, eksploroni rezultatet në Panelin Interaktiv:
Krahasoni konfigurimet : Vizualizoni shpejt se si ndryshojnë metrikat e performancës (p.sh., vonesa mesatare, memoria maksimale) kur përdorni përshpejtues të ndryshëm në të gjitha pajisjet e testuara.
Analizoni ndikimin e pajisjes : Shikoni se si funksionon një konfigurim specifik i modelit në të gjithë gamën e pajisjeve të zgjedhura. Përdorni histograme dhe grafikë shpërndarjeje për të identifikuar shpejt ndryshimet e performancës të lidhura me karakteristikat e pajisjes.
Metrika të detajuara : Qasuni në një tabelë të detajuar dhe të renditshme që tregon metrika specifike (koha e inicializimit, vonesa e nxjerrjes së përfundimeve, përdorimi i memories) për secilën pajisje individuale, së bashku me specifikimet e saj të harduerit. Verifikoni shfrytëzimin e harduerit me tabelën e Ndarjes së Përshpejtuesit, e cila tregon se si shpërndahen operacionet e modelit nëpër bërthama (e disponueshme për CPU dhe GPU, me mbështetjen e NPU-së së shpejti).
Shikoni Rezultatet e Standardeve në Panelin interaktiv. (Shënim: GIF është përshpejtuar dhe redaktuar për shkurtësi)
Bashkohuni me pamjen private të Portalit Google AI Edge
Portali Google AI Edge është i disponueshëm në pamje paraprake private për klientët e Google Cloud që janë në listën e lejuar. Gjatë kësaj periudhe të pamjes paraprake private, qasja ofrohet pa pagesë, në varësi të kushteve të pamjes paraprake.
Ky parapamje është ideale për zhvilluesit dhe ekipet që ndërtojnë aplikacione ML për celularë me LiteRT, të cilët kanë nevojë për të dhëna të besueshme krahasimi në të gjitha hardueret e ndryshme Android dhe janë të gatshëm të japin reagime për të ndihmuar në formësimin e së ardhmes së produktit. Për të kërkuar akses, plotësoni formularin tonë të regjistrimit këtu për të shprehur interesin. Qasja jepet nëpërmjet listës së lejimeve.