PaLM API: krótkie wprowadzenie do czatu w Javie

Z tego krótkiego wprowadzenia dowiesz się, jak korzystać z usługi czatu w interfejsie PaLM API z użyciem biblioteki klienta w Javie.

Uzyskiwanie klucza interfejsu API

Najpierw musisz uzyskać klucz interfejsu API.

Instalowanie klienta API

Dzięki tym instrukcjom w lokalnym repozytorium Maven zostanie zainstalowany pakiet SDK PaLM Java, co pozwoli Ci dodać go jako zależność do projektu Gradle.

1. Pobierz plik google-cloud-ai-generativelanguage-v1-java.tar.gz.

2. Wyodrębnij pliki i zainstaluj je w folderze mavenLocal:

   # Extract the files
   tar -xzvf google-cloud-ai-generativelanguage-v1-java.tar.gz
   cd google-cloud-ai-generativelanguage-v1-java
   
   # Install to mavenLocal
   ./gradlew publishToMavenLocal
   

Dodaję pakiet SDK do projektu

1. Otwórz plik konfiguracji Gradle i sprawdź, czy mavenLocal() znajduje się na liście w sekcji repositories:

   repositories {
       mavenCentral()
       // ...
   
       // Add the Maven Local repository
       mavenLocal()
   }
   

2. Dodatkowo w pliku konfiguracji Gradle dodaj niezbędne biblioteki do bloku dependencies:

   dependencies {
       // ...
   
       // Add these dependencies to use Generative AI
       implementation("com.google.cloud:gapic-google-cloud-ai-generativelanguage-v1-java:0.0.0-SNAPSHOT")
       implementation("io.grpc:grpc-okhttp:1.53.0")
   }
   

Inicjowanie klienta usługi discover

Zainicjuj DiscussServiceClient, przekazując klucz interfejsu API (dostarczany przez zmienną środowiskową API_KEY) jako nagłówek do interfejsu TransportChannelProvider, który ma być używany przez DiscussServiceSettings:

import com.google.ai.generativelanguage.v1.DiscussServiceClient;
import com.google.ai.generativelanguage.v1.DiscussServiceSettings;
import com.google.api.gax.core.FixedCredentialsProvider;
import com.google.api.gax.grpc.InstantiatingGrpcChannelProvider;
import com.google.api.gax.rpc.FixedHeaderProvider;


HashMap<String, String> headers = new HashMap<>();
headers.put("x-goog-api-key", System.getEnv("API_KEY"));

InstantiatingGrpcChannelProvider provider = InstantiatingGrpcChannelProvider.newBuilder()
    .setHeaderProvider(FixedHeaderProvider.create(headers))
    .build();

DiscussServiceSettings settings = DiscussServiceSettings.newBuilder()
    .setTransportChannelProvider(provider)
    .setCredentialsProvider(FixedCredentialsProvider.create(null))
    .build();

DiscussServiceClient client = DiscussServiceClient.create(settings);

Utwórz komunikat

Musisz podać interfejs MessagePrompt, aby mógł on przewidywać następną wiadomość w dyskusji.

(Opcjonalnie) Utwórz kilka przykładów

Opcjonalnie możesz podać kilka przykładów tego, co powinien wygenerować model. Obejmuje to zarówno dane wejściowe użytkownika, jak i odpowiedź, którą model powinien emulować.

import com.google.ai.generativelanguage.v1.Example;
import com.google.ai.generativelanguage.v1.Message;


Message input = Message.newBuilder()
    .setContent("What is the capital of California?")
    .build();

Message response = Message.newBuilder()
    .setContent("If the capital of California is what you seek, Sacramento is where you ought to peek.")
    .build();

Example californiaExample = Example.newBuilder()
    .setInput(input)
    .setOutput(response)
    .build();

Utwórz prompt

Przekaż przykłady do funkcji MessagePrompt.Builder wraz z bieżącą historią wiadomości i opcjonalnie przykładem z poprzedniego kroku.

import com.google.ai.generativelanguage.v1.Message;
import com.google.ai.generativelanguage.v1.MessagePrompt;

Message geminiMessage = Message.newBuilder()
    .setAuthor("0")
    .setContent("How tall is the Eiffel Tower?")
    .build();

MessagePrompt messagePrompt = MessagePrompt.newBuilder()
    .addMessages(geminiMessage) // required
    .setContext("Respond to all questions with a rhyming poem.") // optional
    .addExamples(californiaExample) // use addAllExamples() to add a list of examples
    .build();

Generuj wiadomości

Utwórz GenerateMessageRequest

Utwórz GenerateMessageRequest, przekazując nazwę modelu i podpowiedź do interfejsu GenerateMessageRequest.Builder:

GenerateMessageRequest request = GenerateMessageRequest.newBuilder()
    .setModel("models/chat-bison-001") // Required, which model to use to generate the result
    .setPrompt(messagePrompt) // Required
    .setTemperature(0.5f) // Optional, controls the randomness of the output
    .setCandidateCount(1) // Optional, the number of generated messages to return
    .build();

Wysyłanie żądania

GenerateMessageResponse response = client.generateMessage(request);

Message returnedMessage = response.getCandidatesList().get(0);

System.out.println(returnedMessage);

Dalsze kroki

Po utworzeniu pierwszej aplikacji w Javie przy użyciu interfejsu PaLM API zapoznaj się z zasobami poniżej, aby dowiedzieć się więcej o tym interfejsie API i modelach językowych.

• Aby dowiedzieć się więcej o technikach promptów, zapoznaj się z tematem Wprowadzenie do LLM.