ขอแนะนำ LiteRT: รันไทม์ประสิทธิภาพสูงของ Google สำหรับ AI ในอุปกรณ์ หรือที่รู้จักกันในชื่อ TensorFlow Lite
แปลงโมเดล PyTorch แบบ Generative
AI Edge Torch Generative
API
เป็นไลบรารีที่เพิ่มประสิทธิภาพสำหรับอุปกรณ์เคลื่อนที่สำหรับการแปลงโมเดล PyTorch บนตัวแปลงไฟเป็น
รูปแบบ LiteRT ช่วยให้คุณสามารถแปลงโมเดลภาษาขนาดใหญ่ (LLM) สำหรับ
การสร้างรูปภาพและข้อความในอุปกรณ์ด้วย LiteRT และ MediaPipe ปัจจุบัน AI Edge Torch Generative API ใช้งานได้สำหรับ CPU เท่านั้น พร้อมการรองรับ GPU และ NPU ที่วางแผนไว้
นักพัฒนาแอปบนอุปกรณ์เคลื่อนที่สามารถใช้ Edge Generative API เพื่อผสานรวม PyTorch LLM
ด้วย MediaPipe LLM Inference
API เพื่อสร้างแอปที่
เรียกใช้โมเดล PyTorch ที่แปลงแล้วทั้งหมดในอุปกรณ์
ดูข้อมูลเพิ่มเติมได้ที่ Generative Torch API GitHub
ที่เก็บ
เนื้อหาของหน้าเว็บนี้ได้รับอนุญาตภายใต้ใบอนุญาตที่ต้องระบุที่มาของครีเอทีฟคอมมอนส์ 4.0 และตัวอย่างโค้ดได้รับอนุญาตภายใต้ใบอนุญาต Apache 2.0 เว้นแต่จะระบุไว้เป็นอย่างอื่น โปรดดูรายละเอียดที่นโยบายเว็บไซต์ Google Developers Java เป็นเครื่องหมายการค้าจดทะเบียนของ Oracle และ/หรือบริษัทในเครือ
อัปเดตล่าสุด 2024-09-05 UTC
[[["เข้าใจง่าย","easyToUnderstand","thumb-up"],["แก้ปัญหาของฉันได้","solvedMyProblem","thumb-up"],["อื่นๆ","otherUp","thumb-up"]],[["ไม่มีข้อมูลที่ฉันต้องการ","missingTheInformationINeed","thumb-down"],["ซับซ้อนเกินไป/มีหลายขั้นตอนมากเกินไป","tooComplicatedTooManySteps","thumb-down"],["ล้าสมัย","outOfDate","thumb-down"],["ปัญหาเกี่ยวกับการแปล","translationIssue","thumb-down"],["ตัวอย่าง/ปัญหาเกี่ยวกับโค้ด","samplesCodeIssue","thumb-down"],["อื่นๆ","otherDown","thumb-down"]],["อัปเดตล่าสุด 2024-09-05 UTC"],[],[]]
