Everies

AR, die Objekte in der Umgebung in interaktive Charaktere verwandelt.

Funktion

In der „Everies“-App, die auf der Gemini-Technologie basiert, werden deine Objekte in der Umgebung mit einzigartigen, spielerischen, interaktiven „Everies“ zum Leben erweckt. Richten Sie einfach die Kamera auf die Objekte in Ihrer Umgebung. Die Augen der einzelnen Personen werden dann auf den Objekten angezeigt.
Wenn Sie auf diese Augen tippen, wird ein Charakter mit einer bestimmten Persönlichkeit, einem bestimmten Aussehen, einem bestimmten Dialog und einer bestimmten Stimme generiert, die alle auf das jeweilige Objekt, die Umgebung und den Kontext zugeschnitten sind. Du kannst auch auf ein beliebiges Objekt tippen und einen weltberühmten Charakter generieren, selbst wenn das Auge zunächst gar nicht erscheint.
Jeder Charakter kann sich über Ihre Spracheingabe ständig mit anderen unterhalten, was die Interaktion verbessert. Sie können auch Ihre Lieblings-Everies und unvergesslichen Szenen speichern.

Die einzigartige Fähigkeit von Everies, alles in interaktive, verspielte Charaktere zu verwandeln, ist ein herausragendes Merkmal der LLM-Technologie, die die Nutzung vereinfacht und nutzerfreundlicher macht. Der Prozess wird von der Gemini API automatisiert. Die Objekterkennung wird von TensorFlow Lite und die Zeichengenerierung über JSON-Dateien unterstützt. Die Augenpositionierung wird bei hohen Framerates mithilfe der Objekterkennung auf dem Gerät in Kombination mit AR ermittelt. ARCore verankert die Augen und Gesichter der Charaktere, während die Erkennung mit hoher Framerate und das multimodale LLM (Gemini) für schnelle Reaktionen und eine hohe Qualität sorgen.

Everies befindet sich aktuell in der Betaphase als Proof of Concept und strebt eine formelle Veröffentlichung mit zukünftigen Updates an. Dazu gehören kontinuierliche Gespräche mit Lieblings-Everies und Funktionen zur Videoaufzeichnung.

Basis

  • Android
  • ARCore
  • TensorFlow Lite
  • EfficientDet-Modell für die Objekterkennung

Team

Von

Team Everies

From

Japan