СПбГУ -- 2024.04.04 -- Сэмплирование и MCMC методы

Это лекция из курса "Графические вероятностные модели", который читается на Факультете математики и компьютерных наук СПбГУ вместе с двумя другими частями курса машинного обучения -- "Основами байесовского вывода" и "Глубоким обучением". Все материалы этой и других лекций курса (слайды, доска, ноутбуки с кодом) размещены по адресу:
https://logic.pdmi.ras.ru/~sergey/tea...

Разделы:
00:00 Введение: зачем нужно сэмплирование в ML?
13:08 Обращение функции распределения
17:46 Сэмплирование из равномерного распределения
23:33 Равномерное сэмплирование под графиком плотности
27:42 Выборка с отклонением (rejection sampling)
41:46 Выборка с весами значимости (importance sampling)
58:45 Likelihood weighted sampling
01:21:35 Перерыв
01:45:21 Идея MCMC-методов
02:00:27 Алгоритм Метрополиса-Гастингса
02:43:36 Сэмплирование по Гиббсу
02:57:29 Slice sampling