Машинное обучение, часть 1
Осень 2016, посмотреть все семестры

Это первая половина годового курса.

Цель курса — сформировать целостное представление о методах машинного обучения, об ограничениях этих методов и о задачах, которые можно решать с их помощью. Курс предназначен для широкого круга слушателей.

Для понимания излагаемого материала достаточно знания статистики и линейной алгебры в объеме первых двух курсов математического факультета университета.

Курс построен таким образом, чтобы слушатель, который ранее не сталкивался с машинным обучением, мог понять большую часть курса и научиться применять излагаемые методы. При этом даже самый опытный слушатель в этом курсе найдёт для себя что-то новое.

Для более эффективного понимания курса в течение семестра будут даны несколько домашних заданий, связанных с практическим применением методов, о которых рассказывается в лекциях.

По окончании семестра будет проведён устный экзамен. В итоговой оценке за семестр также будет учитываться качество выполнения домашних заданий.

Содержание курса

Модуль 1 (Введение)

  1. Обзор методов машинного обучения. Отличия от смежных областей
  2. Разбор эксперимента «предсказание оценки студента»
  3. Практическая оценка качества обучения

Модуль 2 (Классы решающих функций)

  1. Ближайшие соседи
  2. Линейные модели
  3. Деревья решений
  4. Нейронные сети
  5. Метод опорных векторов (SVM)

Модуль 3 (Ансамбли решающих функций)

  1. Леса
  2. Ансамбли
  3. Gradient Bossting Decision Tree

Модули 4-6 рассматриваются в продолжении курса весной.

Модуль 4 (Работа с данными)

  1. Сэмплирование данных
  2. Уменьшение размерности
  3. Кластеризация
  4. Feature extraction
  5. Обучение метрики

Модуль 5 (Обучение на сырых данных)

  1. Коллаборативная фильтрация
  2. Обучение на последовательностях, HMM
  3. Глубокое обучение

Модуль 6 (Создание методов обучения)

  1. Целевые функции
  2. Вероятностные модели
  3. EM, Gibbs sampling, MCMC
  4. Теоретическая оценка качества обучения
  5. Регуляризация, LASSO

Для слушателей курса будет полезна книга The Elements of Statistical Learning: Data Mining, Inference, and Prediction.

Дата и время Название Место Материалы
12 сентября
18:30–19:50
Машинное обучение: обзор, лекция Таймс, ауд. с чёрными досками Нет
19 сентября
18:30–19:50
Машинное обучение: обзор II, лекция Таймс, ауд. с чёрными досками видео
26 сентября
18:30–19:50
Один эксперимент, лекция Таймс, ауд. с чёрными досками слайдывидео
03 октября
18:30–19:50
Оценка качества, лекция Таймс, ауд. с чёрными досками видео
10 октября
18:30–19:50
Оценка качества II, лекция Таймс, ауд. с чёрными досками видео
17 октября
18:30–19:50
Instance based learning, лекция Таймс, ауд. с чёрными досками видео
24 октября
18:30–19:50
Линейные модели, лекция Таймс, ауд. с чёрными досками видео
31 октября
18:30–19:50
Линейные модели II, лекция Таймс, ауд. с чёрными досками видео
07 ноября
18:30–19:50
Деревья решений, лекция Таймс, ауд. с чёрными досками видео
14 ноября
18:30–19:50
Деревья решений II, лекция Таймс, ауд. с чёрными досками видео
21 ноября
18:30–19:50
Нейронные сети, лекция Таймс, ауд. с чёрными досками видео
05 декабря
18:30–19:50
Нейронные сети II, лекция Таймс, ауд. с чёрными досками слайды
12 декабря
18:30–19:50
SVM, лекция Таймс, ауд. с чёрными досками Нет
19 декабря
18:30–19:50
Консультация, лекция Таймс, ауд. с чёрными досками Нет
22 декабря
18:00–21:00
Экзамен 1, лекция Таймс, ауд. с чёрными досками Нет
23 декабря
18:00–21:00
Экзамен 2, лекция Таймс, ауд. с чёрными досками Нет
26 декабря
18:00–21:00
Экзамен 3, лекция Таймс, ауд. с чёрными досками Нет