Машинное обучение, часть 2

Новосибирск, осень 2021

Описание

Курс является второй частью годового курса. В нём более подробно затрагиваются другие методы машинного обучения.

В этом семестре пройдёт в гибридном формате: часть семинаров будут идти в Zoom, а остальные – в аудитории 3142 НГУ. За местом проведения каждого семинара следите на странице занятия.

Ссылка для подключения к удалённым занятиям на весь семестр: https://us02web.zoom.us/j/81815346399. Код доступа: 383841.

Теория

Теорию можно будет постигать аж двумя способами: слушая лекции или читая учебник. В некоторых случаях полнее будут лекции, в некоторых — учебник; мы дадим вам знать, если в учебнике чего-то нет (и надо обязательно слушать лекцию) или там есть что-то интересное и дополнительное.

За неделю до практического занятия будет публиковаться ссылку на главу, которую надо будет почитать к занятию (или на несколько глав). А чтобы вам было проще осмыслить происходящее, к главе будут прилагаться ещё вопросы на подумать. Их можно не смотреть, если не хочется, но вы ведь хотите разобраться в машинном обучении, правда?

Обсуждать главы можно будет тут. Доступ, если у вас его ещё нет, можно попросить через форму.

Безусловно, по ходу дела вам будут встречаться опечатки, непонятности, ошибки, да и мало ли вообще что. Не держите свои вопросы, предложения и возмущения в себе, делитесь с нами! Всем будет удобнее, если вы будете делать мёрдж-реквесты, но если вы боитесь такого, то пишите в чат.

А где найти записи лекций Константина Воронцова? Их можно посмотреть вот тут

Практика

Мы предполагаем, что до занятия вы прочитали соответствующую главу. Поэтому будем делать упор на отработку материала, а не на повторение основных понятий.

Основной канал связи

Все возникающие по ходу курса вопросы можете задавать в канале курса в Slack: #ml-2-nsk-21.

Разбалловка

  • Зачёт: не менее 20 баллов
  • Хорошо: от 35 до 55 баллов
  • Отлично: 55 и более баллов

Если у вас не хватает до более высокой оценки менее 1 балла, то мы округлим в вашу пользу ;-)

Преподаватели

Список лекций

Лекция 5. EM алгоритм

Рассказ про вероятностные модели с латентными переменными в лице гауссовских смесей и про алгоритм обучения.

Лекция 8. Self-supervised learning

Self-supervised в картинках и NLP

Глава в учебнике

Лекция 13. Интерпретируемость
  • GradCAM

  • LIME

  • Пути в пространстве скрытых переменных для генеративных моделей

  • Карты внимания (ViT, DINO)