Xây dựng bằng Gemini trên Google Cloud

Nếu bạn mới sử dụng Gemini, thì cách nhanh nhất để bắt đầu là sử dụng hướng dẫn bắt đầu nhanh.

Tuy nhiên, khi các giải pháp AI tạo sinh của bạn phát triển, bạn có thể cần một nền tảng để xây dựng và triển khai toàn diện các ứng dụng và giải pháp AI tạo sinh. Google Cloud cung cấp một hệ sinh thái công cụ toàn diện để giúp nhà phát triển khai thác sức mạnh của AI tạo sinh, từ các giai đoạn ban đầu của quá trình phát triển ứng dụng cho đến triển khai ứng dụng, lưu trữ ứng dụng và quản lý dữ liệu phức tạp trên quy mô lớn.

Nền tảng Vertex AI của Google Cloud cung cấp một bộ công cụ MLOps giúp đơn giản hoá việc sử dụng, triển khai và giám sát các mô hình AI để đạt được hiệu quả và độ tin cậy cao. Ngoài ra, việc tích hợp với cơ sở dữ liệu, công cụ DevOps, tính năng ghi nhật ký, giám sát và IAM mang đến một phương pháp toàn diện để quản lý toàn bộ vòng đời của AI tạo sinh.

Bảng sau đây tóm tắt những điểm khác biệt chính giữa AI của Google và Vertex AI để giúp bạn quyết định lựa chọn phù hợp với trường hợp sử dụng của mình:

Tính năng API Gemini của Google AI Vertex AI Gemini API
Mô hình Gemini Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision (không dùng nữa) Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision, Gemini 1.0 Ultra, Gemini 1.0 Ultra Vision
Đăng ký Tài khoản Google Tài khoản Google Cloud (có thoả thuận về điều khoản và thông tin thanh toán)
Xác thực Khóa API Tài khoản dịch vụ Google Cloud
Sân chơi giao diện người dùng Google AI Studio Vertex AI Studio
API và SDK SDK máy chủ và SDK ứng dụng di động/web
  • Máy chủ: Python, Node.js, Go, Dart, ABAP
  • Ứng dụng di động/Web: Android (Kotlin/Java), Swift, Web, Flutter
SDK máy chủ và SDK ứng dụng di động/web
  • Máy chủ: Python, Node.js, Go, Java, ABAP
  • Ứng dụng di động/Web (thông qua Vertex AI cho Firebase): Android (Kotlin/Java), Swift, Web, Flutter
Sử dụng API và SDK miễn phí Có, nếu có 300 đô la tín dụng Google Cloud cho người dùng mới
Hạn mức (số yêu cầu mỗi phút) Tuỳ thuộc vào mẫu và gói giá (xem thông tin chi tiết) Tuỳ theo mẫu và khu vực (xem thông tin chi tiết)
Hỗ trợ doanh nghiệp Không Khoá mã hoá của khách hàng
Đám mây riêng ảo
Vị trí lưu trữ dữ liệu
Tính minh bạch về quyền truy cập
Cơ sở hạ tầng có thể mở rộng để lưu trữ ứng dụng
Cơ sở dữ liệu và bộ nhớ dữ liệu
MLOps Không có MLOps đầy đủ trên Vertex AI (ví dụ: đánh giá mô hình, Giám sát mô hình, Đăng ký mô hình)

Để tìm hiểu sản phẩm, khung và công cụ nào phù hợp nhất để xây dựng ứng dụng AI tạo sinh trên Google Cloud, hãy xem bài viết Tạo ứng dụng AI tạo sinh trên Google Cloud.

Di chuyển từ Gemini trên Google AI sang Vertex AI

Nếu ứng dụng của bạn sử dụng API Gemini của Google AI, bạn sẽ cần chuyển sang API Gemini của Vertex AI trên Google Cloud.

Khi bạn di chuyển:

Xin lưu ý rằng nếu bạn muốn gọi API Gemini trực tiếp từ một ứng dụng web hoặc ứng dụng di động chính thức, hãy chuyển sang sử dụng Vertex AI trong SDK ứng dụng khách Firebase (có sẵn cho các ứng dụng Swift, Android, Web và Flutter). Các SDK ứng dụng này cung cấp các tuỳ chọn bảo mật quan trọng và các tính năng khác cho ứng dụng web và ứng dụng di động chính thức.

Python: Di chuyển từ API Gemini của Google AI sang API Gemini của Vertex AI

Các phần sau đây trình bày các đoạn mã giúp bạn di chuyển mã Python để sử dụng API Gemini của Vertex AI.

Thiết lập SDK Python Vertex AI

Trên Vertex AI, bạn không cần khoá API. Thay vào đó, Gemini trên Vertex AI được quản lý bằng quyền truy cập IAM, quyền này kiểm soát quyền cho phép người dùng, nhóm hoặc tài khoản dịch vụ gọi API Gemini thông qua SDK Vertex AI.

Mặc dù có nhiều cách để xác thực, nhưng phương pháp dễ nhất để xác thực trong môi trường phát triển là cài đặt Google Cloud CLI, sau đó sử dụng thông tin xác thực người dùng để đăng nhập vào CLI.

Để thực hiện lệnh gọi suy luận đến Vertex AI, bạn cũng phải đảm bảo rằng người dùng hoặc tài khoản dịch vụ của bạn có vai trò Người dùng Vertex AI.

Ví dụ về mã để cài đặt ứng dụng

AI của Google Vertex AI
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY="API_KEY"
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models import GenerativeModel, Image

PROJECT_ID = "PROJECT_ID"
REGION = "REGION"  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)
        

Ví dụ về mã để tạo văn bản từ câu lệnh văn bản

AI của Google Vertex AI
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        

Ví dụ về mã để tạo văn bản từ văn bản và hình ảnh

AI của Google Vertex AI
import PIL.Image

multimodal_model = GenerativeModel("gemini-1.5-flash")

image = PIL.Image.open("image.jpg")

response = multimodal_model.generate_content(["What is this picture?", image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.
        

Ví dụ về mã để tạo cuộc trò chuyện nhiều lượt

AI của Google Vertex AI
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        

Xoá khoá API không dùng đến

Nếu bạn không cần sử dụng khoá API Gemini của Google AI nữa, hãy làm theo các phương pháp hay nhất về bảo mật và xoá khoá đó.

Cách xoá khoá API:

  1. Mở trang Thông tin xác thực API Google Cloud.

  2. Tìm khoá API mà bạn muốn xoá rồi nhấp vào biểu tượng Thao tác.

  3. Chọn Xoá khoá API.

  4. Trong cửa sổ bật lên Xoá thông tin xác thực, hãy chọn Xoá.

    Việc xoá khoá API sẽ mất vài phút để áp dụng. Sau khi quá trình truyền tải hoàn tất, mọi lưu lượng truy cập sử dụng khoá API đã xoá sẽ bị từ chối.

Các bước tiếp theo