Tworzenie kompilacji z Gemini w Google Cloud

Jeśli dopiero zaczynasz korzystać z Gemini, najszybszym sposobem na rozpoczęcie pracy jest skorzystanie z krótkich instrukcji.

Jednak wraz z rozwojem rozwiązań generatywnej AI może być potrzebna platforma do tworzenia i wdrażania kompleksowych aplikacji i rozwiązań opartych na generatywnej AI. Google Cloud udostępnia kompleksowy ekosystem narzędzi, które umożliwiają deweloperom wykorzystanie potencjału generatywnej AI, począwszy od wstępnych etapów tworzenia aplikacji, przez wdrażanie, hosting i zarządzanie złożonymi danymi na dużą skalę.

Platforma Vertex AI od Google Cloud oferuje zestaw narzędzi MLOps, które usprawniają korzystanie z modeli AI, ich wdrażanie oraz monitorowanie, co zwiększa ich wydajność i bezpieczeństwo. Dodatkowo integracja z bazami danych, narzędziami DevOps, logowaniem, monitorowaniem i usługą zarządzania dostępem zapewnia holistyczne podejście do zarządzania całym cyklem życia generatywnej AI.

W tabeli poniżej zestawiono główne różnice między Google AI a Vertex AI, aby ułatwić Ci wybranie odpowiedniej opcji:

Funkcje Interfejs Gemini API od Google AI Vertex AI Gemini API
Modele Gemini Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision (wycofane) Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision, Gemini 1.0 Ultra, Gemini 1.0 Ultra Vision
Zarejestruj się Konto Google Konto Google Cloud (z warunkami umowy i rozliczeniami)
Uwierzytelnianie Klucz interfejsu API Konto usługi Google Cloud
Interfejs użytkownika Google AI Studio Vertex AI Studio
Interfejs API i pakiet SDK Pakiety SDK serwera i klienta mobilnego/internetowego
  • Serwer: Python, Node.js, Go, Dart, ABAP
  • Klient mobilny/internetowy: Android (Kotlin/Java), Swift, Web, Flutter
Pakiety SDK serwera i klienta mobilnego/internetowego
  • Serwer: Python, Node.js, Go, Java, ABAP
  • Klient mobilny/internetowy (za pomocą Vertex AI for Firebase): Android (Kotlin/Java), Swift, Web, Flutter
Bezpłatne korzystanie z interfejsów API i pakietów SDK Tak,w stosownych przypadkach Środki na Google Cloud o wartości 300 USD dla nowych użytkowników
Limit (żądania na minutę) Różne w zależności od modelu i abonamentu (patrz szczegółowe informacje). Różne w zależności od modelu i regionu (patrz szczegółowe informacje).
Pomoc dla firm Nie Klucz szyfrowania klienta
Wirtualna prywatna chmura
Lokalizacja danych
Przejrzystość dostępu
Infrastruktura skalowalna na potrzeby hostowania aplikacji
Bazy danych i pamięć masowa
MLOps Nie Pełna obsługa MLOps w Vertex AI (np. ocena modelu, monitorowanie modelu, rejestr modeli)

Aby dowiedzieć się, które usługi, platformy i narzędzia najlepiej nadają się do tworzenia aplikacji generatywnej AI w Google Cloud, zapoznaj się z artykułem Tworzenie aplikacji generatywnej AI w Google Cloud.

Migracja z Gemini w Google AI do Vertex AI

Jeśli Twoja aplikacja korzysta z interfejsów Gemini API od Google AI, musisz przejść na interfejsy Gemini API od Vertex AI w Google Cloud.

Podczas migracji:

Jeśli chcesz wywoływać interfejs Gemini API bezpośrednio z produkcyjnej aplikacji mobilnej lub internetowej, przejdź na korzystanie z Vertex AI w pakietach SDK klienta Firebase (dostępnych w przypadku aplikacji Swift, Android, Web i Flutter). Te pakiety SDK klienta oferują ważne opcje zabezpieczeń i inne funkcje do stosowania w produkcyjnych aplikacjach mobilnych i internetowych.

Python: przejście z interfejsu Google AI Gemini API na interfejs Vertex AI Gemini API

W kolejnych sekcjach znajdziesz fragmenty kodu, które ułatwią Ci przeniesienie kodu Pythona do użycia w ramach interfejsu Vertex AI Gemini API.

Konfigurowanie pakietu Vertex AI SDK dla Pythona

W Vertex AI nie potrzebujesz klucza API. Zamiast tego Gemini w Vertex AI jest zarządzany za pomocą dostępu IAM, który kontroluje uprawnienia użytkownika, grupy lub konta usługi do wywoływania interfejsu Gemini API za pomocą pakietu Vertex AI SDK.

Chociaż istnieje wiele sposobów uwierzytelniania, najłatwiejszą metodą uwierzytelniania w środowisku programistycznym jest zainstalowanie interfejsu Google Cloud CLI, a następnie użycie danych logowania użytkownika do zalogowania się w interfejsie CLI.

Aby wykonywać wywołania wnioskowania do Vertex AI, musisz też sprawdzić, czy Twoje konto użytkownika lub konto usługi ma rolę Użytkownik Vertex AI.

Przykład kodu do zainstalowania klienta

AI od Google Vertex AI
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY="API_KEY"
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models import GenerativeModel, Image

PROJECT_ID = "PROJECT_ID"
REGION = "REGION"  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)
        

Przykład kodu służącego do generowania tekstu z promptu tekstowego

AI od Google Vertex AI
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        

Przykład kodu do generowania tekstu na podstawie tekstu i obrazu

AI od Google Vertex AI
import PIL.Image

multimodal_model = GenerativeModel("gemini-1.5-flash")

image = PIL.Image.open("image.jpg")

response = multimodal_model.generate_content(["What is this picture?", image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.
        

Przykład kodu do generowania czatu wieloetapowego

AI od Google Vertex AI
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        

Usuwanie nieużywanych kluczy interfejsu API

Jeśli nie musisz już używać klucza interfejsu Gemini API Google AI, zgodnie ze sprawdzonymi metodami zabezpieczeń usuń go.

Aby usunąć klucz interfejsu API:

  1. Otwórz stronę Dane logowania interfejsu Google Cloud API.

  2. Odszukaj klucz interfejsu API, który chcesz usunąć, i kliknij ikonę Działania.

  3. Kliknij Usuń klucz API.

  4. W oknie Usuwanie danych logowania kliknij Usuń.

    Usunięcie klucza interfejsu API może potrwać kilka minut. Po zakończeniu propagacji cały ruch korzystający z usuniętego klucza interfejsu API jest odrzucany.

Dalsze kroki