1.1. Введение в программирование на Python

• Установка языка и среды программирования
• Установка и работа в Jupyter notebook и Google Colab
• Основные структуры данных и синтаксис языка
• Циклы, строки, списки, кортежи, множества, словари
• Функциональное и модульное программирование Python

1.2. Матричные вычисления в Python. Графический анализ данных

• Реализация матричных вычислений с использованием библиотеки numpy.
  Краткий обзор функционала библиотеки
• Построение графиков
• Краткий обзор функционала библиотеки matplotlib

2.1. Векторные пространства, матрицы и тензорные вычисления

• Векторная алгебра
• Операции с векторами
• Матричная алгебра
• Операции над матрицами
• Тензоры
• Операции с тензорами
• Транспонирование матриц и тензоров
• Представление картинок в виде тензоров
• Реализация операций с тензорами с использованием библиотеки numpy.

2.2. Евклидовы пространства

• Длины и нормы векторов и матриц
• Скалярное произведение векторов
• Свойства скалярного произведения
• Углы между векторами
• Меры сходства векторов
• Метрики MSE, MAE

2.3. Анализ и дифференциальное исчисление функций

• Виды и свойства нелинейных функций активации
• Производная функции одной переменной
• Свойства производных функций активации
• Частные производные ФНП
• Градиент
• Градиентный спуск

2.4. Вероятностные пространства

• ДСВ
• Вероятностное распределение
• Биномиальное распределение
• НСВ
• Равномерное распределение
• Нормальное распределение
• Меры сходства вероятностных распределений
• Расстояние Кульбака — Лейблера

3.1. Основные понятия машинного обучения

• Подход к управлению, основанный на данных, или Что такое машинное обучение
• Основные задачи машинного обучения
• Обучение с учителем
• Обучение без учителя
• Обучение с подкреплением

3.2. Построение регрессионных зависимостей

• Постановка задачи регрессионного анализа
• Критерий минимума наименьших квадратов
• Метрики качества модели
• Линейная регрессия
• Построение линейной регрессии
• Работа с библиотекой scikit-learn

3.3. Решение задачи классификации

• Постановка задачи классификации
• Функции потерь в задачах классификации
• Метрики качества
• Методы классификации
• Повышение качества классификации
• Работа с библиотекой scikit-learn

3.4. Решение задач снижения размерностей и кластеризации

• Постановка задачи снижения размерности данных
• Постановка задачи факторного анализа данных
• Линейный ФА: метод PCA
• Снижение размерности: метод tsne
• Постановка задачи кластеризации данных
• Метод k-средних
• Метод иерархической кластеризации

4.1. Основы нейросетевых вычислений. История нейросетевых вычислений

• Алгебраическая модель нейрона
• Функции активации
• Модель нейрона с тождественной функцией активации
• Построение линейной регрессии
• Модель нейрона с логистической функцией активации
• Построение классификатора
• Моделирование булевых операций
• Реализация моделей нейронов с использованием библиотеки numpy

4.2. Модель многослойной нейросети

• Обучение нейрона. Проблема XOR
• Модель нейросети, реализующей операцию XOR
• Нейросетевое моделирование предикатов
• Модель многослойных классификационных нейросетей
• Пример реализации нейросетей с использованием библиотеки numpy
• Обучение нейрона
• Правило Хебба
• Применение метода градиентного спуска для обучения нейрона
• Пример и иллюстрация обучения нейрона с использованием библиотеки numpy

4.3. Обучение многослойной нейросети

• Алгоритм обратного распространения ошибки для оптимизации многослойных нейронных сетей
• Пример обучения нейросети, реализующей XOR с помощью алгоритма обратного распространения ошибки с использованием библиотеки numpy
• Стохастический градиентный спуск (СГС)
• Регуляризация
• Подбор параметров нейросети и обучения
• Визуализация процесса обучения нейросетей

5.1. Классификация данных

• Анализ изображений
• Построение и оптимизация многослойной классифицирующей нейросети
• Виды слоев нейросети
• Dropout
• Batch-нормализация
• Пример классификации изображений рукописных цифр
• Основные возможности библиотеки tensorflow.keras / pyTorch по построению и обучению нейросетей
• Кейс по распознаванию изображений рукописных букв

5.2. Сверточные сети

• Анализ изображений
• Сверточные сети
• Сверточные и подвыборочные слои
• Ядра и смещения
• Обучение сверточных сетей
• Пример классификации изображений рукописных букв
• Решение кейса по распознаванию изображений рукописных букв с использованием сверточных сетей и функционала библиотеки tensorflow.keras / pyTorch

5.3. Кодирование изображений

• Тюнинг нейросетей
• Автоэнкодинговые сети
• Структура и обучение
• Сверточные автоэнкодинговые сети
• Пример факторного анализа фотографий лиц
• Обучение нейросетей фильтрации шумов
• Пример фильтрации шумов на изображениях рукописных цифр с использованием сверточных автоэнкодинговых нейросетей и функционала библиотеки tensorflow.keras / pyTorch
• Оптимизация параметров нейросетей
• Использование алгоритмов поиска квазиоптимальных параметров

5.4. Инструменты предварительной обработки изображений. Библиотека Pillow

• Предобработка изображений, повышающая точность работы нейросетей
• Фильтрация изображений
• Ресайзинг
• Генерация изображений