IRIS 1

기능

Iris는 개인과 기업이 민감한 정보를 대량으로 검열하는 방식을 혁신합니다.

매일 수백만 명의 사용자가 소셜 미디어에 동영상을 공유합니다. 하지만 현재 시스템은 민감한 정보를 실시간으로 감지하고 삭제하는 데 어려움을 겪고 있습니다. 비밀번호와 주소, 신용카드 세부정보, 신분증과 같은 개인 식별 정보 (PII)가 포함된 동영상은 사용자 신고 후에만 게시 중단되는 경우가 많습니다. 이 경우 정보가 이미 유출되었기 때문에 너무 늦을 수 있습니다.

이때 Iris가 개입합니다. 동영상이 게시되기 전에 민감한 정보 유출에 대한 시각적 데이터를 분석하여 근본적으로 문제를 해결할 수 있습니다.

작동 방식은 다음과 같습니다. 클라이언트는 API 요청을 통해 동영상을 업로드합니다. 이러한 동영상은 Firebase에서 암호화되고 GCP에서 처리되며 민감한 정보가 있는지 분석됩니다. 민감한 정보의 내부 데이터베이스는 구독 요금이 인하되는 사용자의 동의가 있을 때만 수집됩니다. 이 데이터는 30일의 보관 기간이 지난 후 삭제됩니다. 보고서가 생성되어 클라이언트가 흐리게 처리 설정을 맞춤설정할 수 있습니다. 마지막으로 IRIS는 요청된 PII가 흐리게 처리된 검열된 동영상을 반환합니다.

Google에서는 Google Gemini 1.5 Pro를 사용하여 잠재적인 정보 유출을 분석합니다. 또한 RAG를 사용하여 내부 민감한 ino 데이터베이스와 일치하는 항목을 검색합니다. Google Gemini를 사용하면 시맨틱 관점에서 민감한 정보를 감지할 수 있습니다. 따라서 거울에 비친 텍스트나 가려진 텍스트와 같이 더 복잡한 PII 및 비밀번호 유출 사례도 감지할 수 있습니다.