Application SSI (Safe Social Interactions)
Mentor IA pour des interactions sociales sécurisées
Description
Les plates-formes de réseaux sociaux, qui permettent de mettre en relation des personnes, offrent également aux escrocs un moyen d'exploiter les utilisateurs. Cette application vise à utiliser la puissance linguistique de Gemini sur les réseaux sociaux pour empêcher les utilisateurs, en particulier les groupes vulnérables, de partager des informations sensibles ou d'envoyer des messages inappropriés.
Cette application exploite la puissance de Gemini pour renforcer la sécurité des utilisateurs sur les réseaux sociaux et dans les chats. Il intègre la technologie LLM pour aider les utilisateurs à éviter de partager des informations sensibles et à envoyer des messages inappropriés, et ainsi promouvoir des interactions sociales sûres et responsables.
Solution: Fonctionnalité d'assistant de chat optimisée par l'IA pour une plate-forme de réseaux sociaux/de messagerie, optimisée par Gemini. Lorsqu'elle est activée, elle analyse les images et le texte pour détecter les risques potentiels et aider/guider l'utilisateur à éviter toute action impulsive.
Fonctionnement:
Fonctionnant avec Flutter et Firebase (stockage, base de données, extensions et fonctions), cette application optimisée par Gemini analyse les images et le texte pour assurer la sécurité et une communication appropriée.
Analyse des images:
- Détecte les informations personnelles et les contenus potentiellement dangereux à l'aide de Gemini.
- Avertit les utilisateurs des raisons pour lesquelles des images ont été signalées.
Analyse du texte:
- Évalue le ton du message pour détecter tout dommage, offense ou agression potentiels.
- Fournit des avertissements et, éventuellement, suggère un texte plus approprié.
Cette application optimisée par Google Gemini permet aux utilisateurs de naviguer dans le monde numérique en toute confiance, ce qui rend les réseaux sociaux un espace plus sûr et plus responsable pour tous.
Conçu avec
- Flutter
- Firebase
- https://extensions.dev/extensions/googlecloud/firestore-multimodal-genai
Équipe
Par
Raj Kumar Uppadhyay et Chahak Uppadhyay
De
Nouvelle-Zélande