Gemma 镜

Gemma Scope 是一款研究工具，用于分析和了解 Gemma 2 的生成式 AI 模型。借助该工具，你可以检查单个 AI 应用的行为， Gemma 2 模型，同时处理请求。研究人员可以 应用这种技术来检查并帮助解决幻觉、 偏见和操纵，最终打造出更安全、更值得信赖的 AI 系统。

该工具为研究人员提供了一套稀疏自动编码器，以便他们检查 Gemma 2 base 学习的特征和表示法 模型。要使用该工具，您需要使用提供的自动编码器对 Gemma 2 模型进行插桩， 让您可以检查各个 AI 模型层的行为，同时 请求。有关如何使用此工具分析 Gemma 2 模型的详情， 工具的详细信息，请参阅 Gemma 范围指南。

  • 模型行为评估

    通过层级别分析评估 Gemma 2 模型的精确行为。

  • 修改 Gemma 模型行为

    使用 Gemma Scope 修改模型层并评估对整体模型行为的影响。

了解详情

详细了解 Gemma Scope 的用途和功能。
查看有关 Gemma Scope 的代码、笔记本、信息和讨论。
运行一个可运行的示例 Gemma Scope 测试装置，用于评估 Gemma 2 模型。