Квантование для моделей GenAI [udemy] [Start-Tech Academy]

Складчина: Квантование для моделей GenAI [udemy] [Start-Tech Academy]

Quantization for GenAI Models
Язык курса английский + орг сделает русскую аудиодорожку [авто]



Чему Вы научитесь:

• Понимать методы оптимизации моделей: обрезка, дистилляция и квантование
• Изучите основы типов данных, таких как FP32, FP16, BFloat16 и INT8
• Освоите понижение типа FP32 до BF16 и FP32 до INT8
• Изучите разницу между симметричным и асимметричным квантованием
• Реализуете методы квантования в Python с реальными примерами
• Примените квантование, чтобы сделать модели более эффективными и готовыми к развертыванию
• Приобретите практические навыки оптимизации моделей для периферийных устройств и сред с ограниченными ресурсами

Если вы разработчик, специалист по данным или энтузиаст машинного обучения, который хочет оптимизировать и развертывать эффективные модели ИИ, этот курс для вас. Хотите сделать свои модели более быстрыми и ресурсоэффективными, сохраняя производительность? Хотите узнать, как применять методы квантования для лучшего развертывания моделей? Этот курс научит вас, как внедрять практические методы квантования, делая ваши модели простыми и развертываемыми на периферийных устройствах.

Материалы курса:
5 разделов • 24 лекций • Общая продолжительность 2 ч 35 мин
1.Введение
2.Методы оптимизации модели Gen AI
2.1.Введение в модели Gen AI
2.2.Методы оптимизации модели - введение
2.3.Введение в обрезку
2.4.Введение в дистилляцию знаний
2.5.Введение в квантование
3.Типы данных и представление чисел
3.1.Типы данных и представление числа
3.2.Целочисленные типы данных
3.3.Целочисленное типин данных pytorch
3.4.8-битные номера с фиксированной точкой
3.5.Номера с плавающей запятой
3.6.Другие форматы с плавающей точкой
3.7.Типы данных с плавающей запятой в Pytorch
3.8.Другие форматы
4.Квантование
4.1.Уничтожение FP32 до BF16
4.2.Понижение тензоров в питоне
4.3.Понижение модели ML в Python
4.4.Уничтожение FP32 до Int8
4.5.Квантование симметрики
4.6.Квантование асимметрики
4.7.Gpt neo 125 квантование
5.Заключение

Спойлер: Оригинал

If you are a developer, data scientist, or machine learning enthusiast who wants to optimize and deploy efficient AI models, this course is for you. Do you want to make your models faster and more resource-efficient while maintaining performance? Are you looking to learn how to apply quantization techniques for better model deployment? This course will teach you how to implement practical quantization techniques, making your models lean and deployable on edge devices.

In this course, you will:
Learn the core concepts of Quantization, Pruning, and Distillation.

1. Understand different data types like FP32, FP16, BFloat16, and INT8.
2. Explore how to convert FP32 to BF16 and INT8 for efficient model compression.
3. Implement symmetric and asymmetric quantization in Python with real-world applications.
4. Understand how to downcast model parameters from FP32 to INT8 for deployment.
5. Gain hands-on experience with Python-based quantization, making your models suitable for mobile and IoT devices

Why learn quantization?
Quantization allows you to reduce the size and computational load of models, making them suitable for resource-constrained devices like smartphones, IoT devices, and embedded systems. By mastering quantization, you can ensure your models are faster, more energy-efficient, and easier to deploy while maintaining accuracy.
Throughout the course, you’ll learn to implement quantization techniques and optimize your models for real-world applications. This course provides the perfect balance of theory and practical application for making machine learning models more efficient.
By the end of the course, you’ll have a deep understanding of quantization, and the ability to optimize and deploy efficient models on edge devices.
Ready to optimize your AI models for efficiency and performance? Enroll now and start your journey

Цена: 19,99 € (примерно 1830 руб.)
Скрытая ссылка