Chuyển đổi mô hình PyTorch tạo sinh

API AI Edge Torch Generative là một thư viện để chuyển đổi các mô hình PyTorch dựa trên bộ biến đổi sang định dạng LiteRT, cho phép bạn chuyển đổi Mô hình ngôn ngữ lớn (LLM) để tạo hình ảnh và văn bản trên thiết bị bằng LiteRT-LM. AI Edge Torch Generative API hiện hỗ trợ CPU và GPU, đồng thời có kế hoạch hỗ trợ NPU.

Nhà phát triển có thể dùng Generative API để tích hợp các LLM PyTorch với LiteRT-LM nhằm tạo ra những ứng dụng chạy các mô hình PyTorch đã chuyển đổi hoàn toàn trên thiết bị.

Để biết thêm thông tin, hãy xem kho lưu trữ GitHub của Generative Torch API.