Modell-Explorer

Ein Visualisierungstool, mit dem Sie ML-Modelle und ‑Diagramme analysieren und die Bereitstellung auf Geräteziele beschleunigen können.

Jetzt starten In Colab ausprobieren Weitere Informationen

Beispiel für die Verwendung von Gemma im Modell-Explorer

Edge-Entwicklung beschleunigen

Aufgrund der Einschränkungen von Edge-Geräten sind oft zusätzliche Schritte erforderlich, um Modelle zu konvertieren und zu optimieren, bevor sie effizient ausgeführt werden können. Die Visualisierung ist eine der effektivsten Möglichkeiten, ein Modell zu verstehen und Ziele für die Optimierung zu identifizieren.

Conversion Quantisierung Optimierung
Mit der Funktion zum direkten Vergleich im Modell-Explorer lassen sich conversionbezogene Probleme leichter erkennen. Sie können die Diagrammebenen nacheinander aufrufen und durch Maximieren und Minimieren von Bereichen tiefer in das Diagramm eintauchen. Sie können die interne Struktur und die Verbindungen innerhalb von Grafiken mit der gewünschten Detailgenauigkeit prüfen. Verwenden Sie den Modell-Explorer, um problematische Vorgänge zu identifizieren, die von der Quantisierung betroffen sind. Sie können die Vorgänge nach Fehlermesswerten sortieren, um Qualitätseinbrüche zu finden, Statistiken pro Schicht abrufen und verschiedene Quantisierungsergebnisse vergleichen, um den idealen Kompromiss zwischen Modellgröße und Qualität zu finden. Mit dem Modell-Explorer können Sie die Ausgabe Ihrer Benchmarking- und Debugging-Tools besser nachvollziehen. Sie können sich ansehen, welche Vorgänge auf der GPU ausgeführt werden können, sie nach Latenz sortieren und die Leistung pro Vorgang für verschiedene Beschleuniger vergleichen.

Unterstützung für große Modelle

Der Modell-Explorer ist so konzipiert, dass große Modelle nahtlos gerendert werden können. Tausende von Knoten? Kein Problem. Die GPU-basierte Rendering-Engine kann skaliert werden, um auch sehr große Modelle flüssig zu rendern. Und der einzigartige Ansatz des Model Explorers, Ebenen wie ein System von Dateien und Ordnern zusammenzufalten, bedeutet, dass die Navigation schneller und einfacher ist.

Funktionen, mit denen Sie schneller arbeiten können

Suche Splitscreen Daten-Overlays
Mit der leistungsstarken regulären Ausdruckssuche können Sie bestimmte Knoten finden, filtern und hervorheben.

 Laden Sie Modelle auf demselben Tab nebeneinander, um sie leichter vergleichen zu können.

 Laden Sie benutzerdefinierte, knotenspezifische Daten in den Modell-Explorer, um Hotspots und andere Probleme mit Ihrem Modell schnell zu identifizieren.
Als PNG-Datei exportieren Lesezeichen Einfacher Zugriff auf Metadaten
Sie können mit nur einem Klick ein Bild des Diagramms exportieren und mit Ihrem Team teilen.

 Sie können Lesezeichen hinzufügen, um Ihren Standort im Diagramm zu speichern und so ganz einfach zwischen Bereichen zu wechseln.

 Sie können unter anderem Tensorformen ansehen, Eingaben und Ausgaben erfassen, identische Schichten hervorheben und die Anzahl der untergeordneten Knoten sehen.

Zwei Möglichkeiten, den Modell-Explorer zu verwenden

Lokale Ausführung In einem Colab-Notebook ausführen
Folgen Sie der einfachen Installationsanleitung auf GitHub, um Model Explorer auf Ihrem lokalen Computer einzurichten. Die App wird in einem Browserfenster ausgeführt und alle Ihre Daten bleiben lokal. Unterstützt Linux, Mac und Windows. Der Model Explorer funktioniert gut in Colab. Sie können ihn also in Ihren vorhandenen Workflow für die Modellentwicklung einbinden. Probieren Sie das Demo-Notebook aus oder folgen Sie der Installationsanleitung, um es Ihrem eigenen Notebook hinzuzufügen.