Gemma スコープ

Gemma Scope は、Gemma 2 生成 AI モデルの内部動作を分析して理解するための研究ツールです。このツールを使用すると、モデルがリクエストを処理しているときに、Gemma 2 モデルの個々の AI モデルレイヤの動作を調べることができます。研究者は、この手法を使用して、幻覚、バイアス、操作などの重要な懸念事項を調査し、対処することで、最終的により安全で信頼性の高い AI システムを実現できます。

このツールは、Gemma 2 コアモデルによって学習された特徴と表現を調査するための一連の疎オートエンコーダを研究者に提供します。このツールを使用するには、提供されたオートエンコーダを使用して Gemma 2 モデルを計測します。これにより、リクエストの処理中に個々の AI モデルレイヤの動作を調べることができます。このツールで Gemma 2 モデルを分析する方法については、Gemma スコープ ガイドをご覧ください。

  • モデルの動作の評価

    レイヤレベルの分析で Gemma 2 モデルの正確な動作を評価します。

  • Gemma モデルの動作を変更する

    Gemma Scope を使用してモデルレイヤを変更し、モデル全体の動作への影響を評価する。

詳細

Gemma Scope の目的と機能の詳細。
Gemma Scope に関するコード、ノートブック、情報、ディスカッションをご覧いただけます。
Gemma 2 モデルを評価するためのサンプルの Gemma Scope テスト装置を実行します。