ИМКТ 2022. Машинное обучение 1

Задача 06. Устный экзамен ≡

задачи
видимые пробелы
простые формулы
широкий текст
редактор

Максимальный балл:

Условие

Билет состоит из 3 вопросов, каждый из которых выбирается независимо и случайно из следующих списков:

Вопрос 1

Основные термины и задачи машинного обучения.Признаки, их виды и свойства. Переход между категориальными и численными признаками.Функция потерь. Оптимизация.Ошибки первого и второго рода. Метрики качества: accuracy, precision, recall, F1-score.Случайный поиск. Перебор по сетке.Проблемы работы с данными высокой размерности.

Вопрос 2

Производная, частные производные, градиент. Методы оценки градиента.Градиентный спуск, проблема выбора шага.Стохастический градиентный спуск.Использование момента. Метод Нестерова.Метод отжига.Adagrad, Adadelta.RMSProp, Adam.По выбору студента: один из: AMSGrad, AdamW, YellowFin, AggMo, Quasi-Hyperbolic Momentum, Demon.*

Вопрос 3

Постановка задачи линейной регрессии. Вероятностная интерпретация.Метод наименьших квадратов. Алгебраическое и оптимизационное решения.Ковариация, корреляция.Коэффициент деретминации (критерий R2).Анализ остатков. Гомоскедастичность. Квартет Анскомба.Решение для неквадратных и плохо обусловненных матриц.Регуляризация LASSO, Ridge, Elastic.По выбору студента, одно из: Обобщённые аддитивные модели (generalized additive models)*; Partial Least Squares*.

Экзамен проводится очно. В случае невозможности очного присутствия необходимо заранее договориться с преподавателем о дистанционной сдаче.

После взятия билета студент готовится в ответу. При подготовке можно использовать произвольные материалы и доступ в Интернет.

В результате подготовки к должен появиться написанный от руки документ объёмом не более 2 страниц A4. Во время ответа можно пользоваться только этим документом. В документе должны быть указаны синтаксические конструкции, формулы, теоремы и прочий материал, необходимый для ответа. Ответ состоит из устного доклада студента, длиной не более 2-3 минут на каждый вопрос. Полный текст доклада записывать НЕ нужно. В докладе необходимо максимально кратко упомянуть все важные элементы доставшейся темы/вопроса. После доклада преподаватель задаёт несколько уточняющих вопросов.

Оценка за каждый вопрос — от 0 до 5 баллов. Студент, полностью правильно ответивший в рамках учебного плана данного курса, получает 4 балла за вопрос. Оценка 5 баллов выставляется за выдающийся ответ, превосходящий требования учебного плана.