ডিভাইসে অনুমানের জন্য PyTorch GenAI মডেলগুলিকে রূপান্তর করুন
AI Edge Torch Generative API হল একটি উচ্চ-কার্যক্ষমতাসম্পন্ন লাইব্রেরি যা ট্রান্সফরমার-ভিত্তিক PyTorch মডেলগুলিকে LiterRT/LiteRT-LM ফর্ম্যাটে লেখা এবং রূপান্তর করার জন্য ডিজাইন করা হয়েছে। এটি ডেভেলপারদের ডিভাইসে টেক্সট এবং ইমেজ তৈরির জন্য সহজেই জেনারেটিভ AI মডেলগুলি, বিশেষ করে লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) স্থাপন করতে সক্ষম করে।
টর্চ জেনারেটিভ API CPU এবং GPU এক্সিকিউশনের জন্য মডেল রূপান্তর সমর্থন করে, উন্নয়নে NPU সমর্থন সহ। LiteRT-LM এর সাথে টর্চ জেনারেটিভ API যুক্ত করে, আপনি প্রতিক্রিয়াশীল, গোপনীয়তা-কেন্দ্রিক অ্যাপ্লিকেশন তৈরি করতে পারেন যা সম্পূর্ণরূপে ডিভাইসে জেনারেটিভ মডেল চালায়।
[[["সহজে বোঝা যায়","easyToUnderstand","thumb-up"],["আমার সমস্যার সমাধান হয়েছে","solvedMyProblem","thumb-up"],["অন্যান্য","otherUp","thumb-up"]],[["এতে আমার প্রয়োজনীয় তথ্য নেই","missingTheInformationINeed","thumb-down"],["খুব জটিল / অনেক ধাপ","tooComplicatedTooManySteps","thumb-down"],["পুরনো","outOfDate","thumb-down"],["অনুবাদ সংক্রান্ত সমস্যা","translationIssue","thumb-down"],["নমুনা / কোড সংক্রান্ত সমস্যা","samplesCodeIssue","thumb-down"],["অন্যান্য","otherDown","thumb-down"]],["2025-12-22 UTC-তে শেষবার আপডেট করা হয়েছে।"],[],[]]
