تطبيق SSI (التفاعلات الاجتماعية الآمنة)

وظيفتها

على الرغم من أنّ منصات وسائل التواصل الاجتماعي توفّر طريقة للتواصل بين المستخدمين، إلا أنّها توفّر أيضًا للمخادعين طريقة لاستغلال المستخدمين. يهدف هذا التطبيق إلى استخدام قدرات Gemini اللغوية في وسائل التواصل الاجتماعي لمنع المستخدمين، لا سيما الفئات الضعيفة، من مشاركة معلومات حسّاسة أو إرسال رسائل غير ملائمة.

يستفيد هذا التطبيق من قدرات Gemini لتعزيز سلامة المستخدمين في وسائل التواصل الاجتماعي والمحادثات. ويدمج هذا النموذج تكنولوجيا النماذج اللغوية الكبيرة لإرشاد المستخدمين إلى تجنُّب مشاركة المعلومات الحسّاسة والرسائل غير اللائقة، ما يعزّز التفاعلات الاجتماعية الآمنة والمسؤولة.

الحلّ: ميزة "مساعِد محادثة" مستندة إلى الذكاء الاصطناعي (AI) لمنصّة وسائل التواصل الاجتماعي أو المراسلة، ومزوّدة بخدمة Gemini. عند تفعيل هذه الميزة، يتم تحليل الصور والنصوص لرصد المخاطر المحتملة ومساعدة المستخدمين أو إرشادهم لتجنّب أي إجراءات اندفاعية.

طريقة العمل:
يستخدم هذا التطبيق منصّة Flutter وFirebase (التخزين وقاعدة البيانات والإضافات والوظائف) مع Gemini لتحليل الصور والنصوص لضمان السلامة والتواصل المناسب.

تحليل الصور:
- يرصد هذا التطبيق باستخدام Gemini المعلومات المتعلّقة بالتعريف الشخصي والمحتوى الذي يُحتمل أن يكون غير آمن.
- يُرسل هذا التطبيق تحذيرات للمستخدمين ويقدّم لهم نصًا أكثر ملاءمةً إذا لزم الأمر.

تحليل النصوص:
- يُقيّم هذا التطبيق نبرة الرسائل بحثًا عن أي ضرر أو إهانة أو عدوان محتمل.
- يقدّم هذا التطبيق تحذيرات للمستخدمين ويقدّم لهم نصًا أكثر ملاءمةً إذا لزم الأمر.

يمنح هذا التطبيق المستند إلى Google Gemini المستخدمين إمكانية التنقّل في العالم الرقمي بثقة، ما يجعل وسائل التواصل الاجتماعي مساحة أكثر أمانًا ومسؤولية للجميع.