IRIS 1

Ý nghĩa

Iris thay đổi cách mọi người và doanh nghiệp kiểm duyệt hàng loạt dữ liệu nhạy cảm.

Hàng triệu người dùng chia sẻ video trên mạng xã hội mỗi ngày. Tuy nhiên, hệ thống hiện tại gặp khó khăn trong việc phát hiện và xoá thông tin nhạy cảm theo thời gian thực. Những video chứa mật khẩu và thông tin nhận dạng cá nhân (PII) như địa chỉ, thông tin thẻ tín dụng và giấy tờ tuỳ thân thường chỉ bị gỡ bỏ sau khi người dùng báo cáo. Điều này có thể là quá muộn vì thông tin đã bị rò rỉ.

Đây là lúc Iris ra tay. Bằng cách phân tích dữ liệu hình ảnh để tìm mọi rò rỉ dữ liệu nhạy cảm trước khi video được xuất bản, chúng tôi có thể giải quyết vấn đề ngay từ gốc.

Sau đây là cách hoạt động: Ứng dụng tải video lên thông qua một yêu cầu API. Những video này được mã hoá trong Firebase, xử lý trên GCP và được phân tích để tìm thông tin nhạy cảm. Chúng tôi chỉ thu thập cơ sở dữ liệu nội bộ về thông tin nhạy cảm khi người dùng đồng ý. Những người dùng này sẽ được giảm phí thuê bao. Sau đó, dữ liệu này sẽ bị xoá sau khoảng thời gian lưu giữ 30 ngày. Hệ thống sẽ tạo một báo cáo cho phép ứng dụng tuỳ chỉnh chế độ cài đặt làm mờ. Cuối cùng, IRIS sẽ trả về một video đã bị kiểm duyệt, trong đó thông tin nhận dạng cá nhân (PII) được yêu cầu sẽ bị làm mờ.

Chúng tôi sử dụng Google Gemini 1.5 Pro để phân tích mọi rò rỉ thông tin tiềm ẩn. Ngoài ra, chúng tôi sử dụng RAG để truy xuất mọi nội dung trùng khớp với cơ sở dữ liệu ino nội bộ nhạy cảm của mình. Google Gemini cho phép chúng tôi phát hiện dữ liệu nhạy cảm từ góc độ ngữ nghĩa. Vì vậy, các trường hợp phức tạp hơn về việc rò rỉ thông tin nhận dạng cá nhân (PII) và mật khẩu như văn bản được phản chiếu hoặc bị che khuất cũng có thể được phát hiện.