PaLM 2 là một bộ mô hình ngôn ngữ, được tối ưu hoá để dễ sử dụng trong các trường hợp sử dụng chính của nhà phát triển. Bộ mô hình PaLM bao gồm các biến thể được huấn luyện để tạo văn bản và cuộc trò chuyện, cũng như tính năng nhúng văn bản. Hướng dẫn này cung cấp thông tin về từng biến thể để giúp bạn quyết định biến thể nào phù hợp nhất với trường hợp sử dụng của mình.
Kích thước mô hình
Kích thước của mô hình được mô tả bằng tên động vật. Bảng sau đây trình bày các kích thước có sẵn và ý nghĩa của các kích thước đó khi so sánh với nhau.
Kích thước mô hình | Nội dung mô tả | Dịch vụ |
---|---|---|
Thịt bò rừng bison | Kích thước mô hình PaLM 2 có khả năng đáp ứng cao nhất. |
|
Tắc kè | Kích thước mô hình PaLM 2 nhỏ nhất, hiệu quả nhất. |
|
Biến thể mô hình
Có nhiều mô hình PaLM được cung cấp và tối ưu hoá cho các trường hợp sử dụng cụ thể. Bảng sau đây mô tả các thuộc tính của từng mục.
Nội dung đa dạng | Thuộc tính | Nội dung mô tả |
---|---|---|
Văn bản bò rừng | Mô hình được cập nhật lần gần đây nhất | Tháng 5 năm 2023 |
Mã kiểu máy | text-bison-001 |
|
Chức năng của mô hình |
|
|
Độ an toàn của mô hình | Nhà phát triển có thể điều chỉnh các chế độ cài đặt an toàn cho 6 phương diện gây hại. Xem chủ đề cài đặt an toàn để biết thông tin chi tiết. | |
Giới hạn tốc độ | 90 yêu cầu mỗi phút | |
Trò chuyện với bò rừng | Mô hình được cập nhật lần gần đây nhất | Tháng 5 năm 2023 |
Mã kiểu máy | chat-bison-001 |
|
Chức năng của mô hình |
|
|
Độ an toàn của mô hình | Không có chế độ cài đặt an toàn nào có thể điều chỉnh được. | |
Giới hạn tốc độ | 90 yêu cầu mỗi phút | |
Nhúng Tắc kè | Mô hình được cập nhật lần gần đây nhất | Tháng 5 năm 2023 |
Mã kiểu máy | embedding-gecko-001 |
|
Chức năng của mô hình |
|
|
Độ an toàn của mô hình | Không có chế độ cài đặt an toàn nào có thể điều chỉnh được. | |
Giới hạn tốc độ | 1500 yêu cầu mỗi phút |
Siêu dữ liệu về mô hình
Sử dụng API ModelService
để nhận thêm siêu dữ liệu về các mô hình mới nhất, chẳng hạn như giới hạn của mã thông báo đầu vào và đầu ra. Bảng sau đây hiển thị siêu dữ liệu cho biến thể mô hình text-bison-001
.
Thuộc tính | Giá trị |
---|---|
Tên hiển thị | Chữ Bison |
Mã kiểu máy | models/text-bison-001 |
Nội dung mô tả | Mô hình được nhắm mục tiêu để tạo văn bản |
Giới hạn mã thông báo đầu vào | 8196 |
Giới hạn mã thông báo đầu ra | 1024 |
Phương thức tạo được hỗ trợ | generateText |
Nhiệt độ | 0.7 |
top_p | 0,95 |
top_k | 40 |
Thuộc tính của mô hình
Bảng dưới đây mô tả các thuộc tính của PaLM 2 chung cho mọi biến thể của mô hình.
Thuộc tính | Nội dung mô tả |
---|---|
Dữ liệu huấn luyện | Hạn chót nhận thức của PaLM 2 là giữa năm 2021. Kiến thức về các sự kiện sau thời gian đó bị hạn chế. |
Ngôn ngữ được hỗ trợ | Tiếng Anh |
Thông số mô hình có thể định cấu hình |
|
Hãy xem phần tham số mô hình trong hướng dẫn Giới thiệu về các LLM để biết thông tin về từng tham số này.