การใช้แอป ARCore ให้เกิดประโยชน์สูงสุด
Everies
สแกนวัตถุรอบตัวคุณและเปลี่ยนให้เป็นตัวละครที่ไม่เหมือนใคร สนุกสนาน และโต้ตอบได้
การทำงาน
แอป everies ที่ทำงานด้วยเทคโนโลยี Gemini จะทำให้วัตถุรอบตัวคุณมีชีวิตชีวาด้วย "everies" ซึ่งเป็นตัวละครแบบอินเทอร์แอกทีฟที่สนุกสนานและไม่เหมือนใคร เพียงสแกนวัตถุรอบตัวด้วยกล้อง แล้วดวงตาของ Everies จะปรากฏบนวัตถุ
การแตะดวงตาเหล่านี้จะสร้างตัวละครที่มีบุคลิกลักษณะ รูปร่างหน้าตา บทสนทนา และเสียงที่โดดเด่น ซึ่งทั้งหมดปรับให้เหมาะกับวัตถุ สภาพแวดล้อม และบริบทที่เฉพาะเจาะจง นอกจากนี้ คุณยังแตะวัตถุใดก็ได้และสร้างตัวละคร Everies ได้ แม้ว่าดวงตาจะไม่ปรากฏในตอนแรกก็ตาม
ตัวละครทุกตัวสามารถสนทนาอย่างต่อเนื่องผ่านอินพุตเสียงของคุณ ซึ่งจะช่วยเพิ่มการโต้ตอบ นอกจากนี้ คุณยังบันทึก Everies ที่ชอบและฉากที่น่าจดจำได้ด้วย
ความสามารถอันโดดเด่นของ Everies ในการเปลี่ยน "ทุกสิ่ง" ให้กลายเป็นตัวละครที่โต้ตอบและสนุกสนานคือฟีเจอร์ที่โดดเด่นของเทคโนโลยี LLM ซึ่งลดความซับซ้อนของประสบการณ์การใช้งานและทำให้ใช้งานง่ายขึ้น Gemini API จะดำเนินการขั้นตอนนี้โดยอัตโนมัติ โดยมีการตรวจจับวัตถุที่ทำงานด้วย TensorFlow Lite และการสร้างตัวละครผ่านไฟล์ JSON ระบบจะกำหนดตำแหน่งของตาด้วยอัตราเฟรมสูงโดยใช้การตรวจจับวัตถุในอุปกรณ์ร่วมกับ AR ARCore จะยึดตามดวงตาและใบหน้าของตัวละคร ส่วนการตรวจจับเฟรมเรตสูงและ LLM แบบหลายรูปแบบ (Gemini) จะช่วยให้การตอบสนองรวดเร็วและได้รับประสบการณ์การใช้งานที่มีคุณภาพสูง
ปัจจุบัน Everies อยู่ในช่วงเบต้าเพื่อพิสูจน์แนวคิด โดยมุ่งสู่การเผยแพร่อย่างเป็นทางการพร้อมการอัปเดตในอนาคต ซึ่งรวมถึงการสนทนาอย่างต่อเนื่องกับ Everies ที่ชอบและฟีเจอร์การบันทึกวิดีโอ
สร้างด้วย
- Android
- ARCore
- TensorFlow Lite
- โมเดล EfficientDet สำหรับการตรวจหาวัตถุ
ทีม
โดย
กิจกรรมของทีม
จาก
ญี่ปุ่น