Google AI Edge Portal 소개: 대규모로 엣지 AI를 벤치마킹합니다. 비공개 미리보기 기간에 액세스 권한을 요청하려면 가입하세요.

이 페이지는 Cloud Translation API를 통해 번역되었습니다.

LlmInference.LlmInferenceOptions.Builder

공개 정적 추상 클래스 LlmInference.LlmInferenceOptions.Builder

Builder()

최종 LlmInference.LlmInferenceOptions	build() `ERROR(/ImageGeneratorOptions)` 인스턴스의 유효성을 검사하고 빌드합니다.
추상 LlmInference.LlmInferenceOptions.Builder	setErrorListener(ErrorListener 리스너) 비동기 API로 호출할 오류 리스너를 설정합니다.
추상 LlmInference.LlmInferenceOptions.Builder	setLoraPath(문자열 loraPath) 기기에 로컬로 저장된 LoRA 모델 애셋 번들의 절대 경로입니다.
추상 LlmInference.LlmInferenceOptions.Builder	setMaxTokens(int maxTokens) 입력 및 출력의 총 토큰 수를 구성합니다.
추상 LlmInference.LlmInferenceOptions.Builder	setModelPath(String modelPath) 텍스트 생성기 작업의 모델 경로를 설정합니다.
추상 LlmInference.LlmInferenceOptions.Builder	setRandomSeed(int randomSeed) 샘플링 토큰용 무작위 시드를 구성합니다.
추상 LlmInference.LlmInferenceOptions.Builder	setResultListener(ProgressListener<String> 리스너) 비동기 API로 호출하도록 결과 리스너를 설정합니다.
추상 LlmInference.LlmInferenceOptions.Builder	setTemperature(부동 온도) 다음 토큰을 디코딩할 때 무작위성을 구성합니다.
추상 LlmInference.LlmInferenceOptions.Builder	setTopK(int topK) 각 디코딩 단계에서 샘플링할 상위 K개의 토큰 수를 구성합니다.

java.lang.Object 클래스에서 상속됨

공개 생성자

ERROR(/ImageGeneratorOptions) 인스턴스의 유효성을 검사하고 빌드합니다.

비동기 API로 호출할 오류 리스너를 설정합니다.

리스너

기기에 로컬로 저장된 LoRA 모델 애셋 번들의 절대 경로입니다. 이는 GPU 모델과만 호환됩니다.

loraPath

입력 및 출력의 총 토큰 수를 구성합니다.

maxTokens

텍스트 생성기 작업의 모델 경로를 설정합니다.

modelPath

샘플링 토큰용 무작위 시드를 구성합니다.

randomSeed

비동기 API로 호출하도록 결과 리스너를 설정합니다.

리스너

다음 토큰을 디코딩할 때 무작위성을 구성합니다. 0.0f 값은 그리디 디코딩을 의미합니다. 기본값은 0.8f입니다.

기온

각 디코딩 단계에서 샘플링할 상위 K개의 토큰 수를 구성합니다. 값 1은 그리디 디코딩을 의미합니다. 기본값은 40입니다.

topK