← Машинное обучение

Модуль 03 — NLP и LLM

Трансформеры, fine-tune, embeddings и RAG. Срок: ~4 недели. Опорный курс — Hugging Face LLM Course (англ., читается легко; доки инструментов частично переведены).

Уроки

Уроки модуля пишутся — загляни позже.

Чему научишься

• Токенизация: BPE, специальные токены, почему модели «не видят» слова
• Архитектура трансформера: attention, энкодер vs декодер
• Fine-tune под свою задачу (классификация текста), метрики качества
• RAG: чанкинг, embeddings, векторный поиск, оценка качества retrieval

Внешние источники (для глубины)

• Hugging Face LLM Course — главы 1–7
• The Illustrated Transformer — лучшая визуализация

Итог модуля

Sentiment-классификатор отзывов RuOpt + RAG-поиск по внутренней документации.