PaLM 2 模型

PaLM 2 是一系列的語言模型，經過最佳化調整，適合開發人員用於重要的開發人員用途。模型系列包含 PaLM 模型，當中包含用於產生文字和聊天的變化版本，以及文字嵌入。本指南提供每個變化版本的相關資訊，協助您判斷最適合您的用途。

模型大小

模型尺寸由動物名稱描述。下表列出可用的大小，以及這些大小彼此相對的意義。

模型大小	說明	服務
野牛	功能最強大的 PaLM 2 模型大小。	text 即時通訊
壁虎	最小、效率最高的 PaLM 2 模型大小。	嵌入

不同的 PaLM 模型可用於特定用途，並經過最佳化調整。下表說明各個選項的屬性。

變化版本	屬性	說明
野語文字	模型上次更新時間	2023 年 5 月
	型號代碼	`text-bison-001`
	模型功能	輸入：文字輸出：文字針對語言工作完成最佳化，例如：產生程式碼產生文字文字編輯解決問題產生建議資訊擷取資料擷取或產生 AI 虛擬服務專員可處理零個、單一和少量樣本工作。
	模型安全性	開發人員可調整 6 個維度的傷害調整安全設定。詳情請參閱安全性設定主題。
	頻率限制	每分鐘 90 個要求

Bison Chat	模型上次更新時間	2023 年 5 月
	型號代碼	`chat-bison-001`
	模型功能	輸入：文字輸出：文字以對話格式產生文字。針對對話語言工作完成最佳化，例如聊天機器人或 AI 代理程式的實作。可處理零個、單一和少量樣本工作。
	模型安全性	沒有可調整的安全設定。
	頻率限制	每分鐘 90 個要求

Gecko 嵌入	模型上次更新時間	2023 年 5 月
	型號代碼	`embedding-gecko-001`
	模型功能	輸入：文字輸出：文字為輸入文字產生文字嵌入。已針對最多 1024 個符記的文字建立嵌入最佳化。
	模型安全性	沒有可調整的安全設定。
	頻率限制	每分鐘 1,500 個要求

使用 ModelService API 取得最新模型的其他中繼資料，例如輸入和輸出權杖限制。下表列出 text-bison-001 模型變化版本的中繼資料。

下表說明 PaLM 2 所有模型變化版本通用的屬性。

屬性	說明
訓練資料	PaLM 2 的知識截止時間為 2021 年中。這段時間後的活動知識有限。
支援的語言	英文
可設定的模型參數	可能性總和為 P 前 K 個隨機性參數停止序列輸出長度上限候選回覆數量

請參閱 LLM 簡介指南中的「模型參數」一節，瞭解每個參數的相關資訊。