برنامه SSI (تعاملات اجتماعی ایمن).

کاری که انجام می دهد

پلتفرم‌های رسانه‌های اجتماعی، در حالی که افراد را به هم متصل می‌کنند، راهی برای سوءاستفاده از کاربران نیز به کلاهبرداران ارائه می‌دهند. این برنامه قصد دارد از قدرت زبان Gemini در رسانه های اجتماعی استفاده کند تا از اشتراک گذاری اطلاعات حساس یا ارسال پیام های نامناسب توسط کاربران، به ویژه گروه های آسیب پذیر جلوگیری کند.

این برنامه از قدرت Gemini برای افزایش ایمنی کاربر در رسانه های اجتماعی و چت استفاده می کند. این فناوری LLM را ادغام می کند تا کاربران را به سمت اجتناب از اشتراک گذاری اطلاعات حساس و پیام های نامناسب هدایت کند و تعاملات اجتماعی ایمن و مسئولانه را ترویج کند.

راه حل: قابلیت دستیار چت مبتنی بر هوش مصنوعی برای یک پلتفرم رسانه اجتماعی/پیام‌رسانی که با Gemini فعال می‌شود، هنگامی که روشن می‌شود، تصاویر و متن را تجزیه و تحلیل می‌کند تا خطرات احتمالی را شناسایی کند و به کاربر کمک می‌کند تا از هرگونه اقدام تکانشی جلوگیری کند.

چگونه کار می کند:
این برنامه با پشتیبانی از Flutter، Firebase (ذخیره‌سازی، پایگاه داده، برنامه‌های افزودنی و توابع)، با Gemini، تصاویر و متن را برای اطمینان از ایمنی و ارتباط مناسب تجزیه و تحلیل می‌کند.

تجزیه و تحلیل تصویر:
- PII و محتوای بالقوه ناامن را با استفاده از Gemini تشخیص می دهد.
- به کاربران با دلایلی برای تصاویر پرچمدار هشدار می دهد.

تجزیه و تحلیل متن:
- لحن پیام را برای آسیب احتمالی، توهین یا پرخاشگری ارزیابی می کند.
- هشدارها را ارائه می دهد و به صورت اختیاری، متن مناسب تری را پیشنهاد می کند.

این برنامه که توسط Google Gemini طراحی شده است، به کاربران این امکان را می‌دهد تا با اعتماد به نفس در دنیای دیجیتال حرکت کنند و رسانه‌های اجتماعی را به فضایی امن‌تر و مسئولانه‌تر برای همه تبدیل کند.