AI-помощник
Обновлен 12.11.2026
Локальные LLM и дообучение: Ollama, vLLM, квантование и LoRA
Запустите открытую LLM на своём железе и дообучите её под свою задачу: от Ollama и квантования до LoRA, оценки качества и выпуска модели.
Практические задания
Помощь от учителя
Поддержка 24/7
Программа курса
10 разделов • 46 уроков
1
Локальные LLM
1.4. Видеопамять и железо
1.5. Практикум: модель в Ollama
2
Ollama
2.1. Сервер и API Ollama
2.2. Modelfile
2.3. Python-клиент к модели
2.4. Практикум: Шишка на промпте
3
Квантование
3.1. Что такое квантование
3.2. GGUF и llama.cpp
3.3. Кванты для GPU
3.4. Практикум: сравнение квантов
4
vLLM
4.1. Сервер на vLLM
4.2. Батчинг и KV-кэш
4.3. Практикум: нагрузочный тест
5
Оценка качества
5.1. Как измерить модель
5.2. Золотой набор
5.3. Модель-судья
5.4. Практикум: замер базовой модели
6
Датасет
6.1. Когда нужно дообучение
6.2. Формат и чат-шаблоны
6.3. Синтетические данные
6.4. Чистка и разбиение
6.5. Библиотека datasets
6.6. Практикум: датасет Шишки
7
LoRA
7.1. Как учится модель
7.2. Идея LoRA
7.3. SFT с библиотекой TRL
7.4. QLoRA в Colab
7.5. Графики обучения
7.6. Практикум: первая LoRA
8
Тонкая настройка
8.1. Подбор гиперпараметров
8.2. Ускорение с Unsloth
8.3. DPO и предпочтения
8.4. Забывание и регрессии
8.5. Практикум: Шишка 2.0
9
Выпуск модели
9.1. Слияние адаптера
9.2. Из LoRA в GGUF
9.3. Несколько LoRA в vLLM
9.4. Карточка и лицензия
9.5. Практикум: релиз Шишки
10
Финал
10.1. Шишка в приложении
10.2. Приватность и безопасность
10.3. Практикум: финальный проект
10.4. Куда дальше
Преподаватели
Изучите преподавательский состав
Отзывы о курсе
0 отзыва
Войдите в аккаунт, чтобы оставить отзыв о курсе
Доступ навсегда
24/7 Support
Python
Ollama
llama.cpp
vLLM
GGUF
Hugging Face Transformers
PEFT
TRL
LoRA
QLoRA
DPO