SSI-App (Safe Social Interactions)

Funktion

Soziale Medien bieten zwar die Möglichkeit, Menschen zu vernetzen, aber auch Betrüger können sie nutzen, um Nutzer auszunutzen. Mit dieser App soll die Spracherkennung von Gemini in sozialen Medien genutzt werden, um zu verhindern, dass Nutzer, insbesondere gefährdete Gruppen, vertrauliche Daten weitergeben oder unangemessene Nachrichten senden.

Diese App nutzt die Möglichkeiten von Gemini, um die Nutzersicherheit in sozialen Medien und Chats zu verbessern. Die LLM-Technologie wird dabei eingesetzt, um Nutzer zu unterstützen, vertrauliche Informationen und unangemessene Nachrichten zu vermeiden und sichere und verantwortungsbewusste soziale Interaktionen zu fördern.

Die Lösung: Eine KI-gestützte Chatassistentenfunktion für eine Social-Media-/Messaging-Plattform, die mit Gemini betrieben wird. Wenn sie aktiviert ist, werden Bilder und Text analysiert, um potenzielle Risiken zu erkennen und Nutzer dabei zu unterstützen, impulsive Handlungen zu vermeiden.

Funktionsweise:
Diese App, die auf Flutter, Firebase (Speicher, Datenbank, Erweiterungen und Funktionen) und Gemini basiert, analysiert Bilder und Text, um für Sicherheit und angemessene Kommunikation zu sorgen.

Bildanalyse:
– Erkennt mit Gemini personenbezogene Daten und potenziell unsichere Inhalte.
– Warnt Nutzer mit Gründen für gemeldete Bilder.

Textanalyse:
– Bewertet den Ton der Nachricht auf potenzielle Schädlichkeit, Anstößigkeit oder Aggressivität.
– Erteilt Warnungen und schlägt optional angemesseneren Text vor.

Diese App, die auf Google Gemini basiert, ermöglicht es Nutzern, sich sicher in der digitalen Welt zu bewegen und macht Social Media für alle sicherer und verantwortungsvoller.