Теория нейронных сетей

Теория нейронных сетей

Инструмент машинного обучения для решения задач распознавания образов, кластеризации данных, компьютерного зрения.

Программа курса

  • Занятие 1: Области применения нейрокомпьютинга. Виды задач, решаемых с помощью нейросетевых технологий. История развития теории нейронных сетей. Метод «черного ящика» и «мягкие вычисления». Математическая модель технического нейрона. Функция активации нейрона. Математическая модель функционирования нейронной сети. Сети прямого распространения, рекуррентные сети. Стохастический нейрон.

  • Занятие 2: Математическая модель многослойной нейронной сети, универсальная аппроксимационная теорема, нейронная сеть как универсальный аппроксиматор, Data-driven и model-based подходы к построению моделей, функция потерь, теоретический и эмпирический риск, принцип минимизации эмпирического риска, постановка задачи обучения многослойной нейронной сети. Квадратичная функция потерь, бинарная и категориальная кросс-энтропия. Статическая интерпретация задачи обучения нейронной сети. Метод обратного распространения ошибки.

  • Занятие 3: Методы обучения нейронных сетей. Градиентные методы обучения, методы обучения с адаптивным шагом, стохастический градиентный спуск, методы обучения 2-го порядка, параметры методов, особенности, преимущества и недостатки методов. Инициализация параметров нейронной сети, метод Хавьера.

  • Занятие 4: Обобщение данных в нейронных сетях, переобучение, обучающая, валидационная и тестовая выборки. Оценка точности нейросетевой модели, методы кросс-валидации: метод Монте-Карло, k-fold, holdout, leave-one-out кросс-валидация, стратификация выборки при кросс-валидации, внутренняя кросс-валидация. Методы регуляризации нейросетевых моделей.

Преподаватели курсов

Трофимов Александр Геннадьевич

Кандидат технических наук, доцент кафедры кибернетики

Окончил НИЯУ МИФИ в 2005 году по специальности «Прикладная математика», получив квалификацию «Математик системный программист».
Преподает курсы по теории вероятностей, математической статистике, машинному обучению, теории нейронных сетей и программированию в Python. Автор множества научных публикаций, владеет английским и испанским языками.

Запечников Сергей Владимирович

Доктор технических наук, доцент кафедры криптографии и кибербезопасности

В 1997 году окончил МИФИ по специальности «Прикладная математика», получив квалификацию «инженер-математик».
Преподает курсы по криптографическим протоколам, безопасности вычислительных сетей, анализу данных и машинному обучению. Автор множества научных работ, владеет английским языком.

Вопросы и ответы

КАКИЕ НАВЫКИ ПОЛУЧИТ СЛУШАТЕЛЬ ПОСЛЕ КУРСА?

Навыки построения нейросетевых моделей для решения прикладных задач обработки данных, в частности, задач регрессии и классификации.

КАК ПОСТРОЕНЫ ЗАНЯТИЯ? НЕ МОЖЕТ ЖЕ БЫТЬ 3 ЧАСА ТОЛЬКО ЛЕКЦИЙ.

Часть времени будет посвящена практическим занятиям на Python, т.е. преподаватель покажет, как создавать, обучать нейросети, расскажет, документацию каких библиотек Python стоит изучить. Соотношение теории и практики — 70/30.

КАКИЕ ИНСТРУМЕНТЫ РАЗРАБОТКИ ОСВОИТ СЛУШАТЕЛЬ?

Библиотеки языка Python для построения нейросетевых моделей.

СУМЕЕТ ЛИ СЛУШАТЕЛЬ ПОСЛЕ КУРСА РАЗРАБАТЫВАТЬ ПРОСТЫЕ НЕЙРОННЫЕ СЕТИ?

Разработка нейронной сети — это вызов трех функций: создание сети, обучение сети и применение сети к имеющимся данным. Поэтому разрабатывать сети может любой, кто имеет начальные знания, а современные средства позволяют создавать и обучать их в пару кликов.

ЧЕМ ВАШИ КУРСЫ ОТЛИЧАЮТСЯ ОТ ДРУГИХ КУРСОВ НА РЫНКЕ?

Основное отличие выпускников курсов НИЯУ МИФИ — это умение понимать происходящие процессы на фундаментальной основе и применять (а часто и создавать совершенно новые) имеющиеся у него в распоряжении инструменты для решения необходимых задач. Цель курса — объяснить как работают нейронные сети, как их правильно применять и что делать, если что-то пошло не так.

Наш адрес

Метро Каширская, Каширское ш., 31.

Контакты

E-mail: icis-dpo@mephi.ru

Телефон: +7 (495) 788-56-99, доб. 8995