Машинное обучение, часть 2
Санкт-Петербург, весна 2014
Описание
Модули 1-5 были разобраны в курсе осенью 2013 г.
Модуль 6 (Ближайшие соседи)
Instance based learning (IBL). Проклятие размерности.
Практические аспекты реализации IBL.
Обучение метрикам (по Brian Kulis).
Модуль 7 (Уменьшение размерности)
- Обзор методов уменьшения размерности. Johnson-Lindenstrauss Lemma.
- Выбор свойств (feature selection).
- Выделение новых свойств: PCA, ICA.
- Кластерный анализ. Самоорганизующиеся сети Кохоннена.
Модуль 8 (Нейронные сети)
- Персептронные сети. Обратное распространение ошибки.
- Сети Хопфилда, Bolzman machine.
- Обзор глубокого обучения (Deep Learning).
Модуль 9 (Деревья решений и их ансамбли)
- Деревья решений: ID3/C4.5. CART, забывчивые деревья.
- Bagging. Случайные леса. Boosting на примере AdaBoost.
- Gradient Boosting. MatrixNet.
