פיתוח באמצעות Gemini ב-Google Cloud

אם אתם משתמשים חדשים ב-Gemini, הדרך המהירה ביותר להתחיל היא להשתמש במדריכי ההתחלה.

עם זאת, ככל שפתרונות ה-AI הגנרטיביים שלכם יתפתחו, יכול להיות שתצטרכו פלטפורמה ליצירה ולפריסה של פתרונות ואפליקציות של AI גנרטיבי מקצה לקצה. ‏Google Cloud מספק סביבה עסקית מקיפה של כלים שמאפשרת למפתחים לנצל את מלוא הפוטנציאל של AI גנרטיבי, החל מהשלבים הראשוניים של פיתוח האפליקציה ועד לפריסה, לאירוח ולניהול של נתונים מורכבים בקנה מידה נרחב.

פלטפורמת Vertex AI של Google Cloud כוללת חבילה של כלים ל-MLOps שמפשטים את השימוש, הפריסה והמעקב אחרי מודלים של AI, כדי לשפר את היעילות והאמינות שלהם. בנוסף, השילובים עם מסדי נתונים, כלי DevOps, רישום ביומן, מעקב ו-IAM מספקים גישה מקיפה לניהול כל מחזור החיים של ה-AI הגנרטיבי.

בטבלה הבאה מפורטים ההבדלים העיקריים בין Google AI לבין Vertex AI, כדי לעזור לכם להחליט איזו אפשרות מתאימה לתרחיש לדוגמה שלכם:

תכונות Google AI Gemini API Vertex AI Gemini API
מודלים של Gemini Gemini 1.5 Flash, ‏ Gemini 1.5 Pro, ‏ Gemini 1.0 Pro, ‏ Gemini 1.0 Pro Vision (הווצא משימוש) Gemini 1.5 Flash, ‏ Gemini 1.5 Pro, ‏ Gemini 1.0 Pro, ‏ Gemini 1.0 Pro Vision, ‏ Gemini 1.0 Ultra,‏ Gemini 1.0 Ultra Vision
הרשמה חשבון Google חשבון Google Cloud (עם הסכמה לתנאים וחיובים)
אימות מפתח API חשבון שירות ב-Google Cloud
מגרש משחקים של ממשק משתמש ‏Google AI Studio Vertex AI Studio
API ו-SDK ערכות SDK לשרת וללקוח בנייד או באינטרנט
  • שרת: Python, ‏ Node.js, ‏ Go, ‏ Dart, ‏ ABAP
  • לקוח לנייד או לאינטרנט: Android‏ (Kotlin/Java), ‏ Swift, ‏ Web, ‏ Flutter
 ערכות SDK לשרת וללקוח בנייד או באינטרנט
  • שרת: Python, ‏ Node.js, ‏ Go, ‏ Java, ‏ ABAP
  • לקוח לנייד או לאינטרנט (דרך Vertex AI for Firebase): Android‏ (Kotlin/Java), ‏ Swift, ‏ Web, ‏ Flutter
שימוש ללא עלות ב-API וב-SDK כן, כשרלוונטי קרדיט בשווי 300$ ל-Google Cloud למשתמשים חדשים
מכסה (בקשות לדקה) משתנה בהתאם לדגם ולתוכנית התמחור (מידע מפורט) משתנה בהתאם לדגם ולמיקום (מידע מפורט)
תמיכת Enterprise לא מפתח הצפנה של לקוח
ענן וירטואלי פרטי
מיקום הנתונים
שקיפות הגישה
תשתית ניתנת להתאמה לאירוח אפליקציות
מסדי נתונים ואחסון נתונים
MLOps לא MLOps מלא ב-Vertex AI (דוגמאות: הערכת מודל, מעקב אחר מודלים, מרשם מודלים)

במאמר פיתוח אפליקציה מבוססת AI גנרטיבי ב-Google Cloud מוסבר אילו מוצרים, מסגרות וכלים מתאימים ביותר לפיתוח אפליקציה מבוססת AI גנרטיבי ב-Google Cloud.

העברה מ-Gemini ב-Google AI ל-Vertex AI

אם האפליקציה שלכם משתמשת ב-Google AI Gemini APIs, תצטרכו לעבור ל-Vertex AI Gemini APIs של Google Cloud.

במהלך ההעברה:

חשוב לזכור: אם אתם רוצים לבצע קריאה ל-Gemini API ישירות מאפליקציית אינטרנט או מאפליקציה לנייד בסביבת הייצור, עליכם לעבור לשימוש ב-Vertex AI ב-SDK של לקוחות Firebase (הזמין לאפליקציות Swift,‏ Android,‏ Web ו-Flutter). ערכות ה-SDK האלה ללקוח כוללות אפשרויות אבטחה קריטיות ותכונות נוספות לאפליקציות לנייד ולאינטרנט בסביבת הייצור.

Python: מעבר מ-Google AI Gemini API ל-Vertex AI Gemini API

בקטעים הבאים מוצגים קטעי קוד שיעזרו לכם להעביר את קוד Python שלכם כך שישתמש ב-Vertex AI Gemini API.

הגדרת Vertex AI Python SDK

ב-Vertex AI לא צריך מפתח API. במקום זאת, Gemini ב-Vertex AI מנוהל באמצעות גישה ל-IAM, שמאפשרת לקבוע אם משתמש, קבוצה או חשבון שירות יכולים להפעיל את Gemini API דרך Vertex AI SDK.

יש דרכים רבות לבצע אימות, אבל הדרך הקלה ביותר לבצע אימות בסביבת פיתוח היא להתקין את Google Cloud CLI ואז להשתמש בפרטי הכניסה של המשתמש כדי להיכנס ל-CLI.

כדי לבצע קריאות להסקה ל-Vertex AI, צריך לוודא גם שלחשבון המשתמש או לחשבון השירות יש את תפקיד המשתמש ב-Vertex AI.

קוד לדוגמה להתקנת הלקוח

‫AI מבית Google Vertex AI 
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY="API_KEY"
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models import GenerativeModel, Image

PROJECT_ID = "PROJECT_ID"
REGION = "REGION"  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)

דוגמה לקוד ליצירת טקסט מהנחיה בטקסט

‫AI מבית Google Vertex AI 
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.

דוגמה לקוד ליצירת טקסט מטקסט ותמונה

‫AI מבית Google Vertex AI 
import PIL.Image

multimodal_model = GenerativeModel("gemini-1.5-flash")

image = PIL.Image.open("image.jpg")

response = multimodal_model.generate_content(["What is this picture?", image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.

דוגמה לקוד ליצירת שיחה עם זיכרון

‫AI מבית Google Vertex AI 
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)

מחיקת מפתחות API שלא בשימוש

אם אתם לא צריכים יותר את מפתח ה-API של Google AI Gemini, מומלץ למחוק אותו בהתאם לשיטות האבטחה המומלצות.

כדי למחוק מפתח API:

  1. פותחים את הדף Google Cloud API Credentials.

  2. מאתרים את מפתח ה-API שרוצים למחוק ולוחצים על הסמל Actions.

  3. בוחרים באפשרות Delete API key (מחיקת מפתח ה-API).

  4. בחלון הדו-שיח Delete credential, בוחרים באפשרות Delete.

    המחיקה של מפתח API יכולה להימשך כמה דקות. אחרי שההפצה תושלם, כל תעבורת הנתונים שמשתמשת במפתח ה-API שנמחק תידחה.

השלבים הבאים