PaLM 2는 주요 개발자 사용 사례에서 사용하기 쉽게 최적화된 언어 모델군입니다. PaLM 제품군에는 텍스트 임베딩뿐만 아니라 텍스트 및 채팅 생성에 대해 학습된 변형이 포함되어 있습니다. 이 가이드에서는 사용 사례에 가장 적합한 변형을 결정하는 데 도움이 되도록 각 변형에 관한 정보를 제공합니다.
모델 크기
모델 크기는 동물 이름으로 설명됩니다. 다음 표는 사용 가능한 크기 및 각 크기 간의 상대적 의미를 보여줍니다.
모델 크기
설명
서비스
Bison
가장 적합한 PaLM 2 모델 크기입니다.
문서 유형
채팅
Gecko
가장 작고 효율적인 PaLM 2 모델 크기입니다.
임베딩
모델 변형
다양한 PaLM 모델을 사용할 수 있으며 특정 사용 사례에 맞게 최적화되어 있습니다. 다음 표에서는 각 속성의 속성을 설명합니다.
다양한 버전
속성
설명
Bison 텍스트
모델 최종 업데이트
2023년 5월
모델 코드
text-bison-001
모델 기능
입력: 텍스트
출력: 텍스트
다음과 같은 언어 작업에 최적화되었습니다.
코드 생성
텍스트 생성
텍스트 수정
문제 해결
추천 생성
정보 추출
데이터 추출 또는 생성
AI 에이전트
제로, 1, 퓨샷 작업을 처리할 수 있습니다.
모델 안전성
개발자에게 제공되는 6가지 위험 요소에 대한 조정 가능한 안전 설정입니다.
자세한 내용은 안전 설정 주제를 참고하세요.
비율 제한
요청 90개/분
Bison 채팅
모델 최종 업데이트
2023년 5월
모델 코드
chat-bison-001
모델 기능
입력: 텍스트
출력: 텍스트
대화 형식으로 텍스트를 생성합니다.
채팅 봇 또는 AI 에이전트 구현과 같은 대화상자 언어 작업에 최적화되었습니다.
제로, 1, 퓨샷 작업을 처리할 수 있습니다.
모델 안전성
조정할 수 있는 안전 설정이 없습니다.
비율 제한
요청 90개/분
도마뱀 임베딩
모델 최종 업데이트
2023년 5월
모델 코드
embedding-gecko-001
모델 기능
입력: 텍스트
출력: 텍스트
입력 텍스트의 텍스트 임베딩을 생성합니다.
최대 1,024개 토큰의 텍스트에 대한 임베딩을 만드는 데 최적화되어 있습니다.
모델 안전성
조정할 수 있는 안전 설정이 없습니다.
비율 제한
요청 1,500개/분
모델 메타데이터
ModelService API를 사용하여 입력 및 출력 토큰 한도와 같은 최신 모델에 대한 추가 메타데이터를 가져올 수 있습니다. 다음 표는 text-bison-001 모델 변형의 메타데이터를 보여줍니다.
속성
값
표시 이름
텍스트 들소
모델 코드
models/text-bison-001
설명
텍스트 생성을 위해 타겟팅된 모델
입력 토큰 한도
8196
출력 토큰 한도
1024
지원되는 생성 방법
generateText
강도
0.7
top_p
0.95
top_k
40
모델 속성
아래 표는 모든 모델 변형에 공통된 PaLM 2의 속성을 설명합니다.
속성
설명
학습 데이터
PaLM2의 지식 마감 시간은 2021년 중반입니다.
이 기간 이후의 이벤트에 관한 정보는 제한적입니다.
지원 언어
영어
구성 가능한 모델 매개변수
최상위 P
최상위 K
강도
시퀀스 중지
최대 출력 길이
응답 후보 수
이러한 각 매개변수에 대한 자세한 내용은 LLM 소개 가이드의 모델 매개변수 섹션을 참고하세요.