पब्लिक क्लास
LlmInference
LlmInफ़ेरेंस टास्क Java एपीआई
नेस्ट की गई क्लास
| क्लास | LlmInference.LlmInferenceOptions | LlmInference सेट अप करने के विकल्प. |
|
सार्वजनिक तरीके
| void |
close() (बंद करें)
LlmInference को बंद करता है और साफ़ करता है. |
| स्टैटिक LlmInference |
createFromOptions(कॉन्टेक्स्ट कॉन्टेक्स्ट, LlmInference.LlmInferenceOptions के विकल्प)
LlmInफ़ेरेंस टास्क बनाता है.
|
| String | |
| void | |
| int |
sizeInTokens(स्ट्रिंग टेक्स्ट)
यह सिर्फ़ एलएलएम के लिए टोकनाइज़ेशन को शुरू करता है और नतीजे का साइज़ (टोकन में) दिखाता है.
|
इनहेरिट किए गए तरीके
सार्वजनिक तरीके
सार्वजनिक स्टैटिक LlmInference createFromOptions (कॉन्टेक्स्ट कॉन्टेक्स्ट, LlmInference.LlmInferenceOptions विकल्पों)
LlmInफ़ेरेंस टास्क बनाता है.
पैरामीटर
| संदर्भ | |
|---|---|
| विकल्प |
सार्वजनिक स्ट्रिंग generateResponse (स्ट्रिंग इनपुट टेक्स्ट)
यह इनपुट टेक्स्ट के आधार पर जवाब जनरेट करता है.
पैरामीटर
| inputText | प्रोसेस के लिए String. |
|---|
थ्रो
| जब फ़ैसला नहीं हो पाता. |
Public void generateResponseAsync (स्ट्रिंग BluetoothText)
यह इनपुट टेक्स्ट के आधार पर जवाब जनरेट करता है.
पैरामीटर
| inputText | प्रोसेस के लिए String. |
|---|
थ्रो
| जब फ़ैसला नहीं हो पाता. |
Public int sizeInTokens (स्ट्रिंग टेक्स्ट)
यह सिर्फ़ एलएलएम के लिए टोकनाइज़ेशन को शुरू करता है और नतीजे का साइज़ (टोकन में) दिखाता है. generateResponse(String) क्वेरी के चालू होने पर, इसे कॉल नहीं किया जा सकता. generateResponse
पैरामीटर
| टेक्स्ट | टोकनाइज़ करने के लिए टेक्स्ट. |
|---|
लौटाए गए प्रॉडक्ट
- टेक्स्ट के टोकनाइज़ेशन में टोकन की संख्या.
थ्रो
| अगर टोकनाइज़ेशन काम नहीं करता. |