פיתוח באמצעות Gemini ב-Google Cloud

אם אתם משתמשים חדשים ב-Gemini, הדרך המהירה ביותר להתחיל היא להשתמש במדריכי ההתחלה.

עם זאת, ככל שפתרונות ה-AI הגנרטיבי שלכם יתבגרו, ייתכן שתזדקקו לפלטפורמה ליצירה ולפריסה של אפליקציות ופתרונות של בינה מלאכותית גנרטיבית מקצה לקצה. Google Cloud מספק סביבה עסקית מקיפה של כלים שמאפשרים למפתחים לנצל את העוצמה של AI גנרטיבי, החל מהשלבים הראשונים של פיתוח האפליקציה, ועד פריסת האפליקציה, אירוח האפליקציות וניהול של נתונים מורכבים בקנה מידה נרחב.

פלטפורמת Vertex AI של Google Cloud כוללת חבילה של כלים ל-MLOps שמפשטים את השימוש, הפריסה והמעקב אחרי מודלים של AI, כדי לשפר את היעילות והאמינות שלהם. בנוסף, השילובים עם מסדי נתונים, כלי DevOps, רישום ביומן, מעקב ו-IAM מספקים גישה מקיפה לניהול כל מחזור החיים של ה-AI הגנרטיבי.

בטבלה הבאה מפורטים ההבדלים העיקריים בין Google AI לבין Vertex AI, כדי לעזור לכם להחליט איזו אפשרות מתאימה לתרחיש לדוגמה שלכם:

תכונות Google AI Gemini API Vertex AI Gemini API
מודלים של Gemini Gemini 1.5 Flash, ‏ Gemini 1.5 Pro, ‏ Gemini 1.0 Pro, ‏ Gemini 1.0 Pro Vision (הווצא משימוש) Gemini 1.5 Flash, ‏ Gemini 1.5 Pro, ‏ Gemini 1.0 Pro, ‏ Gemini 1.0 Pro Vision, ‏ Gemini 1.0 Ultra,‏ Gemini 1.0 Ultra Vision
הרשמה חשבון Google חשבון Google Cloud (עם הסכמה לתנאים וחיובים)
אימות מפתח API חשבון שירות ב-Google Cloud
מגרש משחקים של ממשק משתמש ‏Google AI Studio Vertex AI Studio
API ו-SDK ערכות SDK לשרת וללקוח בנייד או באינטרנט
  • שרת: Python, ‏ Node.js, ‏ Go, ‏ Dart
  • לקוח לנייד/אינטרנט: Android (Kotlin/Java), Swift, Web, Flutter
ערכות SDK לשרת וללקוח בנייד או באינטרנט
  • שרת: Python, Node.js, Go, Java
  • לקוח לנייד או לאינטרנט (דרך Vertex AI for Firebase): Android‏ (Kotlin/Java), ‏ Swift, ‏ Web, ‏ Flutter
שימוש ללא עלות ב-API וב-SDK כן, אם רלוונטי זיכוי בסך 300$ ב-Google Cloud למשתמשים חדשים
מכסה (בקשות לדקה) משתנה בהתאם לדגם ולתוכנית התמחור (מידע מפורט) משתנה בהתאם לדגם ולמיקום (מידע מפורט)
תמיכת Enterprise לא מפתח הצפנה של לקוח
ענן וירטואלי פרטי
מיקום הנתונים
שקיפות הגישה
תשתית ניתנת להתאמה לאירוח אפליקציות
מסדי נתונים ואחסון נתונים
MLOps לא MLOps מלא ב-Vertex AI (דוגמאות: הערכת מודל, מעקב אחר מודלים, מרשם מודלים)

במאמר פיתוח אפליקציה מבוססת-AI גנרטיבי ב-Google Cloud מוסבר אילו מוצרים, מסגרות וכלים מתאימים ביותר לפיתוח אפליקציה מבוססת-AI גנרטיבי ב-Google Cloud.

העברה מ-Gemini ב-Google AI ל-Vertex AI

אם האפליקציה שלכם מתבססת על ממשקי ה-API של Gemini ב-Google AI, תצטרכו לעבור לממשקי ה-API של Vertex AI Gemini של Google Cloud.

במהלך ההעברה:

  • אפשר להשתמש בפרויקט הקיים ב-Google Cloud (אותו פרויקט שבו השתמשתם ליצירת מפתח ה-API) או ליצור פרויקט חדש ב-Google Cloud.

  • האזורים הנתמכים עשויים להשתנות בין Google AI Studio לבין Vertex AI. כאן תוכלו למצוא רשימה של האזורים הנתמכים ל-AI גנרטיבי ב-Google Cloud.

  • כל המודלים שיצרתם ב-Google AI Studio צריכים לעבור אימון מחדש ב-Vertex AI.

חשוב לזכור: אם אתם רוצים לבצע קריאה ל-Gemini API ישירות מאפליקציית אינטרנט או מאפליקציה לנייד בסביבת הייצור, עליכם לעבור לשימוש ב-Vertex AI ב-SDK של לקוחות Firebase (הזמין לאפליקציות Swift,‏ Android,‏ Web ו-Flutter). ערכות ה-SDK האלה ללקוח כוללות אפשרויות אבטחה קריטיות ותכונות נוספות לאפליקציות לנייד ולאינטרנט בסביבת הייצור.

Python: מעבר מ-Google AI Gemini API ל-Vertex AI Gemini API

בקטעים הבאים מוצגים קטעי קוד שיעזרו לכם להעביר את קוד Python שלכם כך שישתמש ב-Vertex AI Gemini API.

הגדרת Vertex AI Python SDK

ב-Vertex AI לא צריך מפתח API. במקום זאת, Gemini ב-Vertex AI מנוהל באמצעות גישה ל-IAM, שמאפשרת לקבוע אם משתמש, קבוצה או חשבון שירות יכולים להפעיל את Gemini API דרך Vertex AI SDK.

יש דרכים רבות לבצע אימות, אבל השיטה הקלה ביותר לבצע אימות בסביבת פיתוח היא להתקין את Google Cloud CLI ואז להשתמש בפרטי הכניסה של המשתמש כדי להיכנס ל-CLI.

כדי לבצע קריאות להסקה ל-Vertex AI, צריך לוודא גם שלחשבון המשתמש או לחשבון השירות יש את תפקיד המשתמש ב-Vertex AI.

קוד לדוגמה להתקנת הלקוח

‫AI מבית Google Vertex AI
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY="API_KEY"
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models import GenerativeModel, Image

PROJECT_ID = "PROJECT_ID"
REGION = "REGION"  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)
        

דוגמה לקוד ליצירת טקסט מהנחיה בטקסט

‫AI מבית Google Vertex AI
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        

דוגמה לקוד ליצירת טקסט מטקסט ומתמונה

‫AI מבית Google Vertex AI
import PIL.Image

multimodal_model = GenerativeModel("gemini-1.5-flash")

image = PIL.Image.open("image.jpg")

response = multimodal_model.generate_content(["What is this picture?", image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.
        

דוגמה לקוד ליצירת צ'אט עם מספר פניות

‫AI מבית Google Vertex AI
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        

מחיקת מפתחות API שלא בשימוש

אם אתם לא צריכים יותר להשתמש במפתח Gemini API של Google AI, כדאי לפעול לפי השיטות המומלצות בנושא אבטחה ולמחוק אותו.

כדי למחוק מפתח API:

  1. פותחים את הדף Google Cloud API Credentials.

  2. מאתרים את מפתח ה-API שרוצים למחוק ולוחצים על הסמל Actions (פעולות).

  3. בוחרים באפשרות Delete API key (מחיקת מפתח ה-API).

  4. בחלון הדו-שיח Delete credential, בוחרים באפשרות Delete.

    המחיקה של מפתח API יכולה להימשך כמה דקות. אחרי שההפצה תושלם, כל תעבורת הנתונים שמשתמשת במפתח ה-API שנמחק תידחה.

השלבים הבאים