PaLM 2 모델

PaLM 2는 주요 개발자 사용 사례에서 사용하기 쉽게 최적화된 언어 모델군입니다. PaLM 제품군에는 텍스트 임베딩뿐만 아니라 텍스트 및 채팅 생성에 대해 학습된 변형이 포함되어 있습니다. 이 가이드에서는 사용 사례에 가장 적합한 변형을 결정하는 데 도움이 되도록 각 변형에 관한 정보를 제공합니다.

모델 크기

모델 크기는 동물 이름으로 설명됩니다. 다음 표는 사용 가능한 크기 및 각 크기 간의 상대적 의미를 보여줍니다.

모델 크기	설명	서비스
Bison	가장 적합한 PaLM 2 모델 크기입니다.	문서 유형 채팅
Gecko	가장 작고 효율적인 PaLM 2 모델 크기입니다.	임베딩

모델 변형

다양한 PaLM 모델을 사용할 수 있으며 특정 사용 사례에 맞게 최적화되어 있습니다. 다음 표에서는 각 속성의 속성을 설명합니다.

다양한 버전	속성	설명
Bison 텍스트	모델 최종 업데이트	2023년 5월
	모델 코드	`text-bison-001`
	모델 기능	입력: 텍스트 출력: 텍스트 다음과 같은 언어 작업에 최적화되었습니다. 코드 생성 텍스트 생성 텍스트 수정 문제 해결 추천 생성 정보 추출 데이터 추출 또는 생성 AI 에이전트 제로, 1, 퓨샷 작업을 처리할 수 있습니다.
	모델 안전성	개발자에게 제공되는 6가지 위험 요소에 대한 조정 가능한 안전 설정입니다. 자세한 내용은 안전 설정 주제를 참고하세요.
	비율 제한	요청 90개/분

Bison 채팅	모델 최종 업데이트	2023년 5월
	모델 코드	`chat-bison-001`
	모델 기능	입력: 텍스트 출력: 텍스트 대화 형식으로 텍스트를 생성합니다. 채팅 봇 또는 AI 에이전트 구현과 같은 대화상자 언어 작업에 최적화되었습니다. 제로, 1, 퓨샷 작업을 처리할 수 있습니다.
	모델 안전성	조정할 수 있는 안전 설정이 없습니다.
	비율 제한	요청 90개/분

도마뱀 임베딩	모델 최종 업데이트	2023년 5월
	모델 코드	`embedding-gecko-001`
	모델 기능	입력: 텍스트 출력: 텍스트 입력 텍스트의 텍스트 임베딩을 생성합니다. 최대 1,024개 토큰의 텍스트에 대한 임베딩을 만드는 데 최적화되어 있습니다.
	모델 안전성	조정할 수 있는 안전 설정이 없습니다.
	비율 제한	요청 1,500개/분

모델 메타데이터

ModelService API를 사용하여 입력 및 출력 토큰 한도와 같은 최신 모델에 대한 추가 메타데이터를 가져올 수 있습니다. 다음 표는 text-bison-001 모델 변형의 메타데이터를 보여줍니다.

속성	값
표시 이름	텍스트 들소
모델 코드	`models/text-bison-001`
설명	텍스트 생성을 위해 타겟팅된 모델
입력 토큰 한도	8196
출력 토큰 한도	1024
지원되는 생성 방법	`generateText`
강도	0.7
top_p	0.95
top_k	40

모델 속성

아래 표는 모든 모델 변형에 공통된 PaLM 2의 속성을 설명합니다.

속성	설명
학습 데이터	PaLM2의 지식 마감 시간은 2021년 중반입니다. 이 기간 이후의 이벤트에 관한 정보는 제한적입니다.
지원 언어	영어
구성 가능한 모델 매개변수	최상위 P 최상위 K 강도 시퀀스 중지 최대 출력 길이 응답 후보 수

이러한 각 매개변수에 대한 자세한 내용은 LLM 소개 가이드의 모델 매개변수 섹션을 참고하세요.