Ứng dụng SSI (Tương tác an toàn trên mạng xã hội)

Ý nghĩa

Mặc dù giúp mọi người kết nối với nhau, nhưng các nền tảng mạng xã hội cũng là nơi để kẻ lừa đảo lợi dụng người dùng. Ứng dụng này nhằm mục đích sử dụng sức mạnh ngôn ngữ của Gemini trong mạng xã hội để ngăn người dùng, đặc biệt là các nhóm dễ bị tổn thương, chia sẻ thông tin nhạy cảm hoặc gửi tin nhắn không phù hợp.

Ứng dụng này tận dụng sức mạnh của Gemini để tăng cường sự an toàn của người dùng trên mạng xã hội và trong cuộc trò chuyện. Công cụ này tích hợp công nghệ LLM để hướng dẫn người dùng tránh chia sẻ thông tin nhạy cảm và tin nhắn không phù hợp, đồng thời khuyến khích các hoạt động tương tác xã hội an toàn và có trách nhiệm.

Giải pháp: Một tính năng trợ lý trò chuyện dựa trên AI cho nền tảng mạng xã hội/ứng dụng nhắn tin, được cung cấp bởi Gemini. Khi bật, tính năng này sẽ phân tích hình ảnh và văn bản để phát hiện các rủi ro tiềm ẩn và hỗ trợ/hướng dẫn người dùng tránh mọi hành động bốc đồng.

Cách hoạt động:
Được cung cấp bởi Flutter, Firebase (bộ nhớ, cơ sở dữ liệu, tiện ích và hàm), với Gemini, ứng dụng này phân tích hình ảnh và văn bản để đảm bảo an toàn và giao tiếp phù hợp.

Phân tích hình ảnh:
- Phát hiện PII và nội dung có thể không an toàn bằng Gemini.
- Cảnh báo người dùng về lý do hình ảnh bị gắn cờ.

Phân tích văn bản:
- Đánh giá giọng điệu của tin nhắn để tìm hiểu xem có thể gây hại, xúc phạm hoặc gây hấn hay không.
- Cảnh báo và đề xuất văn bản phù hợp hơn (không bắt buộc).

Ứng dụng này được cung cấp bởi Google Gemini, giúp người dùng tự tin khám phá thế giới kỹ thuật số, biến mạng xã hội trở thành một không gian an toàn và trách nhiệm hơn cho mọi người.