Hướng dẫn này minh hoạ cách truy cập Gemini API cho Dart hoặc Ứng dụng Flutter sử dụng SDK AI Dart của Google. Bạn có thể sử dụng SDK này nếu bạn không muốn làm việc trực tiếp với API REST để truy cập vào mô hình Gemini trong .
Trong hướng dẫn này, bạn sẽ tìm hiểu cách thực hiện những việc sau:
- Thiết lập dự án, bao gồm cả khoá API
- Tạo văn bản từ dữ liệu nhập chỉ có văn bản
- Tạo văn bản bằng cách nhập văn bản và hình ảnh (đa phương thức)
- Tạo cuộc trò chuyện nhiều lượt (trò chuyện)
- Sử dụng tính năng truyền trực tuyến để tương tác nhanh hơn
Ngoài ra, hướng dẫn này bao gồm các phần về các trường hợp sử dụng nâng cao (như Nhúng và đếm mã thông báo) cũng như các tuỳ chọn cho kiểm soát việc tạo nội dung.
Điều kiện tiên quyết
Hướng dẫn này giả định rằng bạn đã quen thuộc với việc xây dựng ứng dụng bằng Dart.
Để hoàn thành hướng dẫn này, hãy đảm bảo rằng môi trường phát triển của bạn đáp ứng các yêu cầu sau:
- Dart 3.2.0 trở lên
Thiết lập dự án
Trước khi gọi Gemini API, bạn cần thiết lập dự án của mình, bao gồm thiết lập khoá API, thêm SDK vào phần phụ thuộc của nhà xuất bản và khởi tạo mô hình.
Thiết lập khoá API
Để sử dụng Gemini API, bạn sẽ cần có khoá API. Nếu chưa có tài khoản, tạo một khoá trong Google AI Studio.
Bảo mật khoá API của bạn
Bảo mật khoá API của bạn. Bạn không nên đưa vào Khoá API ngay trong mã của bạn hoặc kiểm tra các tệp chứa khoá thành phiên bản hệ thống kiểm soát. Thay vào đó, bạn nên sử dụng kho bí mật cho khoá API.
Tất cả đoạn mã trong hướng dẫn này đều giả định rằng bạn đang truy cập khoá API như
biến môi trường của quy trình. Nếu đang phát triển một ứng dụng Flutter, bạn có thể sử dụng
String.fromEnvironment
và chuyển --dart-define=API_KEY=$API_KEY
đến
flutter build
hoặc flutter run
để biên dịch bằng khoá API kể từ quá trình
môi trường sẽ khác khi chạy ứng dụng.
Cài đặt gói SDK
Để sử dụng Gemini API trong ứng dụng của riêng mình, bạn cần add
Gói google_generative_ai
cho ứng dụng Dart hoặc Flutter của bạn:
Dart
dart pub add google_generative_ai
Flutter
flutter pub add google_generative_ai
Khởi chạy mô hình tạo sinh
Để có thể thực hiện lệnh gọi API, bạn cần nhập và khởi chạy mô hình tạo sinh.
import 'dart:io';
import 'package:google_generative_ai/google_generative_ai.dart';
void main() async {
// Access your API key as an environment variable (see "Set up your API key" above)
final apiKey = Platform.environment['API_KEY'];
if (apiKey == null) {
print('No \$API_KEY environment variable');
exit(1);
}
// The Gemini 1.5 models are versatile and work with most use cases
final model = GenerativeModel(model: 'gemini-1.5-flash', apiKey: apiKey);
}
Khi chỉ định một mô hình, hãy lưu ý những điều sau:
Sử dụng một mô hình cụ thể cho trường hợp sử dụng của bạn (ví dụ:
gemini-1.5-flash
dành cho phương thức nhập đa phương thức). Trong hướng dẫn này, hướng dẫn cho từng liệt kê mô hình triển khai được đề xuất cho từng trường hợp sử dụng.
Triển khai các trường hợp sử dụng phổ biến
Bây giờ, dự án của bạn đã được thiết lập, bạn có thể khám phá việc sử dụng Gemini API để triển khai các trường hợp sử dụng khác nhau:
- Tạo văn bản từ dữ liệu nhập chỉ có văn bản
- Tạo văn bản bằng cách nhập văn bản và hình ảnh (đa phương thức)
- Tạo cuộc trò chuyện nhiều lượt (trò chuyện)
- Sử dụng tính năng truyền trực tuyến để tương tác nhanh hơn
Trong phần trường hợp sử dụng nâng cao, bạn có thể tìm thấy thông tin về Gemini API và video nhúng.
Tạo văn bản từ dữ liệu đầu vào chỉ có văn bản
Khi câu lệnh chỉ bao gồm văn bản, hãy sử dụng mô hình Gemini 1.5 hoặc
Mô hình Gemini 1.0 Pro có generateContent
để tạo đầu ra văn bản:
import 'dart:io';
import 'package:google_generative_ai/google_generative_ai.dart';
void main() async {
// Access your API key as an environment variable (see "Set up your API key" above)
final apiKey = Platform.environment['API_KEY'];
if (apiKey == null) {
print('No \$API_KEY environment variable');
exit(1);
}
// The Gemini 1.5 models are versatile and work with both text-only and multimodal prompts
final model = GenerativeModel(model: 'gemini-1.5-flash', apiKey: apiKey);
final content = [Content.text('Write a story about a magic backpack.')];
final response = await model.generateContent(content);
print(response.text);
}
Tạo văn bản bằng cách nhập văn bản và hình ảnh (đa phương thức)
Gemini cung cấp nhiều mô hình có thể xử lý dữ liệu nhập đa phương thức (Các mô hình Gemini 1.5) để bạn có thể nhập cả hai văn bản và hình ảnh. Hãy nhớ xem lại các yêu cầu về hình ảnh đối với câu lệnh.
Khi câu lệnh nhập bao gồm cả văn bản và hình ảnh, hãy sử dụng mô hình Gemini 1.5
bằng phương thức generateContent
để tạo đầu ra văn bản:
import 'dart:io';
import 'package:google_generative_ai/google_generative_ai.dart';
void main() async {
// Access your API key as an environment variable (see "Set up your API key" above)
final apiKey = Platform.environment['API_KEY'];
if (apiKey == null) {
print('No \$API_KEY environment variable');
exit(1);
}
// The Gemini 1.5 models are versatile and work with both text-only and multimodal prompts
final model = GenerativeModel(model: 'gemini-1.5-flash', apiKey: apiKey);
final (firstImage, secondImage) = await (
File('image0.jpg').readAsBytes(),
File('image1.jpg').readAsBytes()
).wait;
final prompt = TextPart("What's different between these pictures?");
final imageParts = [
DataPart('image/jpeg', firstImage),
DataPart('image/jpeg', secondImage),
];
final response = await model.generateContent([
Content.multi([prompt, ...imageParts])
]);
print(response.text);
}
Xây dựng cuộc trò chuyện nhiều lượt
Khi sử dụng Gemini, bạn có thể tạo các cuộc trò chuyện dạng tự do ở nhiều chặng. Chiến lược phát hành đĩa đơn
SDK đơn giản hoá quy trình bằng cách quản lý trạng thái của cuộc trò chuyện, vì vậy, không giống như
với generateContent
, bạn không cần lưu trữ nhật ký trò chuyện
chính bạn.
Để tạo một cuộc trò chuyện nhiều lượt (chẳng hạn như trò chuyện), hãy sử dụng mô hình Gemini 1.5 hoặc
Mô hình Gemini 1.0 Pro và bắt đầu cuộc trò chuyện bằng cách gọi startChat()
.
Sau đó, sử dụng sendMessage()
để gửi thông báo cho người dùng mới. Việc này cũng sẽ thêm thông báo
tin nhắn và câu trả lời trong nhật ký trò chuyện.
Có hai lựa chọn cho role
được liên kết với nội dung trong một
cuộc trò chuyện:
user
: vai trò đưa ra lời nhắc. Đây là giá trị mặc định chosendMessage
và hàm sẽ gửi một ngoại lệ nếu một giá trị khác vai trò đã được truyền.model
: vai trò đưa ra câu trả lời. Vai trò này có thể được dùng khi gọistartChat()
bằnghistory
hiện có.
import 'dart:io';
import 'package:google_generative_ai/google_generative_ai.dart';
Future<void> main() async {
// Access your API key as an environment variable (see "Set up your API key" above)
final apiKey = Platform.environment['API_KEY'];
if (apiKey == null) {
print('No \$API_KEY environment variable');
exit(1);
}
// The Gemini 1.5 models are versatile and work with multi-turn conversations (like chat)
final model = GenerativeModel(
model: 'gemini-1.5-flash',
apiKey: apiKey,
generationConfig: GenerationConfig(maxOutputTokens: 100));
// Initialize the chat
final chat = model.startChat(history: [
Content.text('Hello, I have 2 dogs in my house.'),
Content.model([TextPart('Great to meet you. What would you like to know?')])
]);
var content = Content.text('How many paws are in my house?');
var response = await chat.sendMessage(content);
print(response.text);
}
Sử dụng tính năng phát trực tuyến để tương tác nhanh hơn
Theo mặc định, mô hình này trả về một phản hồi sau khi hoàn tất toàn bộ quá trình tạo của chúng tôi. Bạn có thể đạt được các tương tác nhanh hơn bằng cách không phải đợi toàn bộ kết quả và thay vào đó hãy sử dụng luồng để xử lý một phần kết quả.
Ví dụ sau đây trình bày cách triển khai tính năng truyền trực tuyến bằng
Phương thức generateContentStream
để tạo văn bản qua phương thức nhập văn bản và hình ảnh
.
// ...
final response = model.generateContentStream([
Content.multi([prompt, ...imageParts])
]);
await for (final chunk in response) {
print(chunk.text);
}
// ...
Bạn có thể sử dụng phương pháp tương tự cho các trường hợp sử dụng chỉ nhập văn bản và trò chuyện.
// Use streaming with text-only input
final response = model.generateContentStream(content);
// Use streaming with multi-turn conversations (like chat)
final response = chat.sendMessageStream(content);
Triển khai các trường hợp sử dụng nâng cao
Các trường hợp sử dụng phổ biến được mô tả trong phần trước của trợ giúp hướng dẫn này bạn cảm thấy thoải mái khi sử dụng Gemini API. Phần này mô tả một số các trường hợp sử dụng có thể được xem là nâng cao hơn.
Gọi hàm
Lệnh gọi hàm giúp bạn dễ dàng nhận kết quả đầu ra dữ liệu có cấu trúc các mô hình tạo sinh. Sau đó, bạn có thể sử dụng những dữ liệu đầu ra này để gọi các API khác và trả về dữ liệu phản hồi phù hợp cho mô hình. Nói cách khác, lệnh gọi hàm giúp bạn kết nối các mô hình tạo sinh với hệ thống bên ngoài để nội dung được tạo bao gồm thông tin chính xác và mới nhất. Tìm hiểu thêm trong hướng dẫn gọi hàm.
Dùng tính năng nhúng
Nhúng là một kỹ thuật dùng để trình bày thông tin dưới dạng danh sách các số có dấu phẩy động trong một mảng. Với Gemini, bạn có thể đại diện cho văn bản (từ, câu và khối văn bản) ở dạng vectơ hoá, khiến nội dung đó dễ dàng so sánh và đối chiếu các mục nhúng. Ví dụ: hai văn bản có cùng một chủ đề hoặc tình cảm tương tự nên có các thành phần nhúng tương tự, có thể được xác định thông qua kỹ thuật so sánh toán học như tính tương đồng về cosin.
Sử dụng mô hình embedding-001
với phương thức embedContent
(hoặc phương thức
batchEmbedContent
) để tạo các mục nhúng. Ví dụ sau đây
tạo một mục nhúng cho một chuỗi đơn:
final model = GenerativeModel(model: 'embedding-001', apiKey: apiKey);
final content = Content.text('The quick brown fox jumps over the lazy dog.');
final result = await model.embedContent(content);
print(result.embedding.values);
Đếm mã
Khi sử dụng các câu lệnh dài, có thể bạn nên đếm mã thông báo trước khi gửi bất cứ mã nào
vào mô hình. Các ví dụ sau đây minh hoạ cách sử dụng countTokens()
cho nhiều trường hợp sử dụng:
// For text-only input
final tokenCount = await model.countTokens(Content.text(prompt));
print('Token count: ${tokenCount.totalTokens}');
// For text-and-image input (multimodal)
final tokenCount = await model.countTokens([
Content.multi([prompt, ...imageParts])
]);
print('Token count: ${tokenCount.totalTokens}');
// For multi-turn conversations (like chat)
final prompt = Content.text(message);
final allContent = [...chat.history, prompt];
final tokenCount = await model.countTokens(allContent);
print('Token count: ${tokenCount.totalTokens}');
Các tuỳ chọn kiểm soát việc tạo nội dung
Bạn có thể kiểm soát việc tạo nội dung bằng cách định cấu hình các thông số của mô hình và bằng cách sử dụng cài đặt an toàn.
Lưu ý rằng việc truyền generationConfig
hoặc safetySettings
đến một yêu cầu mô hình
phương thức (như generateContent
) sẽ ghi đè hoàn toàn đối tượng cấu hình
có cùng tên được truyền vào getGenerativeModel
.
Định cấu hình tham số của mô hình
Mỗi câu lệnh bạn gửi đến mô hình đều có các giá trị thông số kiểm soát cách mô hình sẽ tạo một phản hồi. Mô hình đó có thể tạo ra các kết quả khác nhau cho các giá trị thông số khác nhau. Tìm hiểu thêm về Thông số mô hình. Cấu hình này được duy trì trong suốt thời gian hoạt động của phiên bản mô hình.
final generationConfig = GenerationConfig(
stopSequences: ["red"],
maxOutputTokens: 200,
temperature: 0.9,
topP: 0.1,
topK: 16,
);
final model = GenerativeModel(
// The Gemini 1.5 models are versatile and work with most use cases
model: 'gemini-1.5-flash',
apiKey: apiKey,
generationConfig: generationConfig,
);
Sử dụng chế độ cài đặt an toàn
Bạn có thể sử dụng chế độ cài đặt an toàn để điều chỉnh khả năng nhận được câu trả lời có thể bị coi là gây hại. Theo mặc định, chế độ cài đặt an toàn sẽ chặn nội dung có mức trung bình và/hoặc có khả năng cao là nội dung không an toàn trên tất cả phương diện. Học tập tìm hiểu thêm về Cài đặt an toàn.
Dưới đây là cách đặt một chế độ cài đặt an toàn:
final safetySettings = [
SafetySetting(HarmCategory.harassment, HarmBlockThreshold.high)
];
final model = GenerativeModel(
// The Gemini 1.5 models are versatile and work with most use cases
model: 'gemini-1.5-flash',
apiKey: apiKey,
safetySettings: safetySettings,
);
Bạn cũng có thể đặt nhiều chế độ cài đặt an toàn:
final safetySettings = [
SafetySetting(HarmCategory.harassment, HarmBlockThreshold.high),
SafetySetting(HarmCategory.hateSpeech, HarmBlockThreshold.high),
];
Các bước tiếp theo
Thiết kế câu lệnh là quá trình tạo câu lệnh đáp ứng yêu cầu phản hồi từ các mô hình ngôn ngữ. Viết câu lệnh có cấu trúc hợp lý là điều thiết yếu để đảm bảo các câu trả lời chính xác, có chất lượng cao từ một mô hình ngôn ngữ. Tìm hiểu các phương pháp hay nhất để viết câu lệnh.
Gemini cung cấp một số biến thể mô hình để đáp ứng nhu cầu sử dụng khác nhau trường hợp, chẳng hạn như loại dữ liệu đầu vào và độ phức tạp, các cách triển khai cho cuộc trò chuyện hoặc các tác vụ ngôn ngữ của hộp thoại và giới hạn kích thước. Tìm hiểu về các mô hình Gemini hiện có.