کوانتیزاسیون LLM ها با استفاده از PyTorch و Hugging Face

Name: کوانتیزاسیون LLM ها با استفاده از PyTorch و Hugging Face
Price: 1460000 IRR
Availability: InStock
Author: ماراد، مرکز آموزش از راه دور

ضبط شده

بهینه‌سازی حافظه و سرعت برای مدل‌های زبانی بزرگ با استفاده از تکنیک‌های پیشرفته کم‌سازی

امتیاز دوره

هنوز امتیاز ندارد

بیش از 1 سال تدریس در ماراد
زیرنویس فارسی و انگلیسی

ماراد، مرکز آموزش از راه دور

زندگی فعال
16 اپیزود
2 ساعت و 7 دقیقه
سطح متوسط

کوانتیزاسیون LLM ها با استفاده از PyTorch و Hugging Face

درباره دوره اپیزود ها توضیحات تکمیلی اطلاعات استاد کامنت ها

در این دوره چه چیز هایی می آموزید؟

اپیزودها

اپیزود 1 مقدمه‌ای بر کوانتیزاسیون

4 دقیقه

اپیزود 2 نوع داده‌ها، نیازمندی‌های حافظه و نمایش‌های بیتی

9 دقیقه

اپیزود 3 کمیت‌سازی خطی: ایجاد درک

7 دقیقه

اپیزود 4 فرمول کمیت‌سازی خطی

7 دقیقه

اپیزود 5 تبدیل یک آرایه از مقادیر به مقادیر گسسته

12 دقیقه

اپیزود 6 تبدیل کمیت و تبدیل به کمیت تنسورها

9 دقیقه

اپیزود 7 محاسبه خطای کوانتیزاسیون

3 دقیقه

اپیزود 8 کمیت‌سازی متقارن

9 دقیقه

اپیزود 9 پیاده‌سازی الگوریتم کوانت‌سازی متقارن

8 دقیقه

اپیزود 10 کمیت‌سازی به ازای هر کانال

8 دقیقه

اپیزود 11 کمیت سازی به ازای هر گروه

11 دقیقه

اپیزود 12 استنتاج با وزن‌های کمی‌سازی‌شده

8 دقیقه

اپیزود 13 کوانتیزاسیون 2 و 4 بیتی از طریق بسته‌بندی و بازکردن بسته‌بندی

10 دقیقه

اپیزود 14 پیاده‌سازی بسته‌بندی و باز کردن بسته‌بندی بیت‌ها

15 دقیقه

اپیزود 15 کوانتیزه کردن مدل‌های هاجینگ فیس به دقت ۸ بیت

4 دقیقه

اپیزود 16 Quantization 4 بیتی با استفاده از BitsnBtyes

3 دقیقه

اکشن های دوره

شرکت در دوره : 21,000 تومان

توضیحات دوره

با ادامه تحول مدل‌های بزرگ زبانی (LLMs) در صنایع، چالش به‌کارگیری این مدل‌های محاسباتی سنگین به طور کارآمد به امری بسیار مهم تبدیل شده است. این دوره، کوانتیزاسیون LLMها با PyTorch و Hugging Face، شما را با ابزارها و تکنیک‌هایی آشنا می‌کند که بتوانید از کوانتیزاسیون، یک روش بهینه‌سازی ضروری، برای کاهش مصرف حافظه و بهبود سرعت استنتاج بدون افت قابل توجه در دقت مدل استفاده کنید.

در این دوره عملی، با تسلط بر مفاهیم اساسی کوانتیزاسیون شروع خواهید کرد. از طریق توضیحات بصری، مفاهیمی مانند کوانتیزاسیون خطی، انواع مختلف داده‌ها و نیازهای حافظه آن‌ها، و چگونگی کوانتیزه کردن دستی مقادیر برای درک عملی را روشن خواهید کرد.

سپس به تکنیک‌های پیشرفته کوانتیزاسیون، از جمله کوانتیزاسیون متقارن و نامتقارن و کاربردهای آن‌ها، خواهید پرداخت. تجربه عملی با روش‌های کوانتیزاسیون به ازای هر کانال و به ازای هر گروه به دست آورید و یاد بگیرید که چگونه خطاهای کوانتیزاسیون را محاسبه و کاهش دهید. از طریق مثال‌های واقعی، این روش‌ها را به صورت عملی خواهید دید و تأثیر آن‌ها بر عملکرد مدل را درک خواهید کرد.

بخش نهایی بر روی موضوعات پیشرفته‌ای مانند کوانتیزاسیون ۲ بیت و ۴ بیت تمرکز دارد. یاد می‌گیرید که چگونه بسته‌بندی و باز بسته‌بندی بیت‌ها کار می‌کند، این تکنیک‌ها را مرحله به مرحله پیاده‌سازی کنید و آن‌ها را به مدل‌های واقعی Hugging Face اعمال کنید. در پایان دوره، در استفاده از ابزارهایی مانند PyTorch و Bits and Bytes برای کوانتیزاسیون مدل‌ها با دقت‌های مختلف ماهر خواهید شد و این امکان را خواهید داشت که استقرار LLMهای کوچک‌مقیاس و سطح سازمانی را بهینه‌سازی کنید.

چه شما یک متخصص یادگیری ماشین باشید، یک دانشمند داده که به دنبال تکنیک‌های بهینه‌سازی است، یا یک مهندس سیستم که بر روی استقرار کارآمد مدل‌ها تمرکز کرده است، این دوره یک راهنمای جامع برای کوانتیزاسیون ارائه می‌دهد. با ترکیبی از نظریه و تمرین‌های کدنویسی عملی، شما تخصص لازم برای کاهش هزینه‌ها و بهبود کارایی محاسباتی در برنامه‌های AI مدرن را به دست خواهید آورد....

دانشجویان دیگر خریده اند