App SSI (Safe Social Interactions)

Descrizione

Le piattaforme di social media, pur mettendo in contatto le persone, offrono anche ai truffatori un modo per sfruttare gli utenti. Questa app mira a utilizzare la potenza del linguaggio di Gemini all'interno dei social media per impedire agli utenti, in particolare ai gruppi vulnerabili, di condividere informazioni sensibili o inviare messaggi inappropriati.

Questa app sfrutta la potenza di Gemini per migliorare la sicurezza degli utenti sui social media e nelle chat. Integra la tecnologia LLM per aiutare gli utenti a evitare la condivisione di informazioni sensibili e messaggi inappropriati, promuovendo interazioni sociali sicure e responsabili.

La soluzione: una funzionalità di assistente di chat basata sull'AI per una piattaforma di social media/messaggistica, basata su Gemini, che, se attivata, analizza immagini e testo per rilevare potenziali rischi e aiutare/guidare l'utente ad evitare azioni impulsive.

Come funziona:
basata su Flutter, Firebase (archiviazione, database, estensioni e funzioni), con Gemini, questa app analizza immagini e testo per garantire sicurezza e comunicazione appropriata.

Analisi delle immagini:
- Rileva PII e contenuti potenzialmente non sicuri utilizzando Gemini.
- Avvisa gli utenti con i motivi per cui sono state segnalate le immagini.

Analisi del testo:
- Valuta il tono del messaggio per rilevare potenziali danni, offese o aggressioni.
- Fornisce avvisi e, facoltativamente, suggerisce un testo più appropriato.

Questa app basata su Google Gemini consente agli utenti di navigare nel mondo digitale in tutta sicurezza, rendendo i social media uno spazio più sicuro e responsabile per tutti.