এই নির্দেশিকাটি দেখায় কিভাবে Google AI স্টুডিওতে একটি একক ক্লিকে একটি ক্লাউড রানে Gemma 3 ওপেন মডেলগুলি স্থাপন করতে হয়৷
Google AI স্টুডিও হল একটি ব্রাউজার-ভিত্তিক প্ল্যাটফর্ম যা আপনাকে দ্রুত মডেলগুলি চেষ্টা করে দেখতে এবং বিভিন্ন প্রম্পট দিয়ে পরীক্ষা করতে দেয়। নির্বাচিত Gemma 3 মডেল ব্যবহার করে এমন একটি প্রোটোটাইপ ওয়েব অ্যাপ ডিজাইন করার জন্য আপনি একটি চ্যাট প্রম্পট প্রবেশ করার পরে, আপনি GPU-সক্ষম ক্লাউড রান পরিষেবাতে জেমা মডেল চালানোর জন্য ক্লাউড রানে নিয়োজিত নির্বাচন করতে পারেন।
ক্লাউড রানে একটি জেনারেটেড ফ্রন্ট-এন্ড পরিষেবা স্থাপন করতে Google AI স্টুডিও ব্যবহার করে, আপনি একটি কন্টেইনার প্রস্তুত করার বেশিরভাগ সেটআপ ধাপগুলি এড়িয়ে যান যেহেতু ক্লাউড রান ক্লাউড রানে জেমা ওপেন মডেলগুলি পরিবেশন করার জন্য একটি পূর্বনির্মাণ কন্টেইনার প্রদান করে যা Google Gen AI SDK সমর্থন করে৷
Google AI Studio দিয়ে শুরু করুন
এই বিভাগটি আপনাকে Google AI স্টুডিও ব্যবহার করে ক্লাউড রানে Gemma 3 স্থাপনের মাধ্যমে গাইড করে।
Google AI স্টুডিওতে একটি জেমা মডেল নির্বাচন করুন।
চ্যাট পৃষ্ঠায় রান সেটিংস প্যানেলে, ডিফল্ট জেমা মডেল ব্যবহার করুন, বা জেমা মডেলগুলির একটি নির্বাচন করুন।
উপরের বারে, আরও অ্যাকশন দেখুন নির্বাচন করুন এবং ডিপ্লয় টু ক্লাউড রান ক্লিক করুন।
Google ক্লাউড রান ডায়ালগে Gemma 3 স্থাপন করুন , একটি নতুন Google ক্লাউড প্রকল্প তৈরি করতে প্রম্পটগুলি অনুসরণ করুন বা একটি বিদ্যমান প্রকল্প নির্বাচন করুন৷ কোনো সংশ্লিষ্ট বিলিং অ্যাকাউন্ট না থাকলে আপনাকে বিলিং সক্ষম করতে বলা হতে পারে।
Google AI স্টুডিও আপনার প্রকল্প যাচাই করার পরে, Google Cloud-এ Deploy-এ ক্লিক করুন।
Gemma 3 মডেলটি Google ক্লাউডে সফলভাবে স্থাপন করার পরে, ডায়ালগটি নিম্নলিখিতগুলি প্রদর্শন করে:
- আপনার ক্লাউড রান পরিষেবার একটি ক্লাউড রান এন্ডপয়েন্ট ইউআরএল যা Gemma 3 এবং ওল্লামা চালাচ্ছে।
- জেমিনি এপিআই লাইব্রেরির সাথে প্রমাণীকরণের জন্য ব্যবহৃত একটি জেনারেটেড API কী। এই কীটি আগত অনুরোধগুলি অনুমোদন করার জন্য স্থাপন করা ক্লাউড রান পরিষেবার একটি পরিবেশ পরিবর্তনশীল হিসাবে কনফিগার করা হয়েছে৷ আমরা সুপারিশ করছি যে আপনি IAM প্রমাণীকরণ ব্যবহার করতে API কী পরিবর্তন করুন। আরও বিশদ বিবরণের জন্য, Google Gen AI SDK-এর সাথে নিরাপদে ইন্টারঅ্যাক্ট দেখুন।
- Google ক্লাউড কনসোলে ক্লাউড রান পরিষেবার একটি লিঙ্ক৷ আপনার ক্লাউড রান পরিষেবার জন্য ডিফল্ট কনফিগারেশন সেটিংস সম্পর্কে জানতে, লিঙ্কে যান, তারপর কনফিগারেশন সেটিংস দেখতে বা সংশোধন করতে সম্পাদনা করুন এবং নতুন পুনর্বিবেচনা করুন নির্বাচন করুন ৷
ক্লাউড রান পরিষেবা তৈরি করতে ব্যবহৃত জেমিনি API নমুনা কোডটি দেখতে, কোড পান নির্বাচন করুন।
ঐচ্ছিক: কোডটি কপি করুন এবং প্রয়োজন অনুযায়ী পরিবর্তন করুন।
আপনার কোডের সাথে, আপনি Google Gen AI SDK-এর সাথে ক্লাউড রান এন্ডপয়েন্ট এবং API কী ব্যবহার করতে পারেন।
উদাহরণস্বরূপ, আপনি যদি Python এর জন্য Google Gen AI SDK ব্যবহার করেন, তাহলে Python কোডটি নিম্নরূপ দেখতে পারে:
from google import genai
from google.genai.types import HttpOptions
# Configure the client to use your Cloud Run endpoint and API key
client = genai.Client(api_key="<YOUR_API_KEY>", http_options=HttpOptions(base_url="<cloud_run_url>"))
# Example: Generate content (non-streaming)
response = client.models.generate_content(
model="<model>", # Replace model with the Gemma 3 model you selected in Google AI Studio, such as "gemma-3-1b-it".
contents=["How does AI work?"]
)
print(response.text)
# Example: Stream generate content
response = client.models.generate_content_stream(
model="<model>", # Replace model with the Gemma 3 model you selected in Google AI Studio, such as "gemma-3-1b-it".
contents=["Write a story about a magic backpack. You are the narrator of an interactive text adventure game."]
)
for chunk in response:
print(chunk.text, end="")
বিবেচনা
আপনি যখন Google AI স্টুডিও থেকে একটি ক্লাউড রান পরিষেবা স্থাপন করেন, নিম্নলিখিতগুলি বিবেচনা করুন:
- মূল্য : ক্লাউড রান একটি বিলযোগ্য উপাদান। আপনার অনুমান করা ব্যবহারের উপর ভিত্তি করে একটি খরচ অনুমান তৈরি করতে, মূল্য ক্যালকুলেটর ব্যবহার করুন।
- কোটা : ক্লাউড রান স্বয়ংক্রিয়ভাবে ক্লাউড রান অ্যাডমিন API-এর অধীনে
Request Total Nvidia L4 GPU allocation, per project per regionকরে। - অ্যাপ প্রক্সি সার্ভার : নিয়োজিত পরিষেবাটি Google AI স্টুডিও জেমিনি অ্যাপ প্রক্সি সার্ভার ব্যবহার করে ওল্লামাকে মোড়ানো এবং আপনার পরিষেবাকে Gemini API-এর সাথে সামঞ্জস্যপূর্ণ করে তোলে৷
- অনুমতি : আপনি যদি আপনার ক্লাউড রান পরিষেবা পরিবর্তন করতে চান, তাহলে আপনার প্রকল্পে আপনার অ্যাকাউন্টে প্রয়োজনীয় IAM ভূমিকাগুলি মঞ্জুর করা আবশ্যক৷
- প্রমাণীকরণ : ডিফল্টরূপে, আপনি যখন Google AI স্টুডিও থেকে একটি ক্লাউড রান পরিষেবা স্থাপন করেন, পরিষেবাটি সর্বজনীন (অপ্রমাণিত) অ্যাক্সেস (
--allow-unauthenticatedপতাকা) সহ স্থাপন করা হয়। একটি শক্তিশালী নিরাপত্তা ব্যবস্থা ব্যবহার করার জন্য, আমরা সুপারিশ করি যে আপনি IAM এর সাথে প্রমাণীকরণ করুন ৷
এরপর কি
আপনি Google AI স্টুডিও থেকে ক্লাউড রানে স্থাপন করার সময় পারফরম্যান্স সুরক্ষিত এবং অপ্টিমাইজ করার জন্য সর্বোত্তম অনুশীলন সম্পর্কে জানুন।