Введение в теорию нейросетей и глубокое обучение

Санкт-Петербург, осень 2017

Описание

Этот курс дает представление о современном положении дел в теории нейросетей. Рассмотрены полносвязные и сверточные нейросети на примерах задач классификации и поиска объектов на изображениях. Отдельное внимание уделяется алгоритмам обучения и настройке собственного проекта. Примеры, использованные в курсе, написаны на python с использованием numpy и TensorFlow.

Преподаватели

Список лекций

Введение. Биология и математика в нейросетях. Экскурс в историю.

Модели нейронов. Решаемые задачи. Примеры успеха Биологический нейрон Проект Blue Brain/ Human Brain Искусственный нейрон Простейший пример на python (регрессия) Что такое нейросеть / нейросеть глубокого обучения. Виды современных нейросетей и решаемые ими задачи

Обучение нейросетей

Обучение с учителем и без Функции активации и производные Обратное распространение ошибки Метод градиентного спуска Пример на python

Гиперпараметры сетей. Алгоритмы обучения. Почему Видеокарты? Обзор фреймворков.

Гиперпараметры и методы/алгоритмы обучения (SGD, momentum, RMSprop, ADAM) GD/ SGD / batched GD Объемы вычислений и производительность Задачи реального времени, латентность. NVIDIA GPU, DrivePX Фреймворки. Пример Tensorflow

Полносвязные нейросети. Сверточные нейросети

Распознавание изображений, классификация Сверточные нейросети Виды слоев в нейросети Тензоры и их трансформации нейросетью шаг за шагом Пример CIFAR-10

Окружение проекта на примере DetectNet. Поиск объектов на изображении

Из чего состоит нейросетевой проект ? Форматы входных и выходных данных . Параметры выборок, аугментация примеров . Открытые выборки . Deep Features, предобучение нейросетей . Пример - Nvidia DetectNet.

Заключение. Что осталось за рамками курса?