# Bayesian Methods

|
|
Bayesian Methods

### Структура курсу

#### День 1

Lectures
• Introduction to the Bayesian theory
• Real-world examples in industry, space navigation, target tracking, etc.. Principles, uncertainty, prior/posterior knowledge, hyperparameters, likelihood, Bayes theorem, difference to frequentist statistics, sequential (online) modeling. Types of estimates.
• Linear models
• Prior and posterior distribution, the existence of analytical solutions, conjugacy, exponential family, real-world examples.
• Linear regression and autoregression, types of reality-reflecting models (black box, grey box), construction of linear models based on physical principles.
Practical classes
• Basics of Bayesian estimation with conjugate prior distributions
• Simple examples – network probing with ping (Bernoulli model – beta prior), sequential estimation, types of estimates, quantification of posterior uncertainty.
• Linear models
• Sequential (online) linear regression and autoregression with real data. Exponential forgetting in the estimation of models with time-varying parameters.

#### День 2

Lectures
• Generalized linear models (GLMs)
• Logistic regression and online logistic regression, MAP estimation. Sketch of other GLMs. Practical examples.
• State-space models I
• Evolution of model parameters (i.e., states). Linear state-space models, Kalman filtering. Real-world examples (Apollo program, free fall equation, target tracking).
Practical classes
• Sequential logistic regression
• Construction and online estimation of a model of a convenient real-world problem.
• Kalman filtering
• Construction and online estimation of a convenient real-world problem (probably target tracking).

#### День 3

Lectures
• State-space models II
• Nonlinear models and introduction to particle filtering. Principles of particle filters, filter degeneracy, resampling.
• Discussion of principles of selected advanced methods like Dynamic Model Averaging, Approximate Bayesian Computation and/or others based on students’ interests.
Practical classes
• Particle filtering
• Construction and online estimation of a convenient nonlinear state-space model of a real-world
• Concluding discussion
Мова викладання – ангілйська.

### Вимоги до попередніх знань учасників курсу

1. Вища математика:
• лінійна алгебра (дії з матрицями, обернена матриця);
• математичний аналіз:
• диференційне числення, знаходження екстремуму функції з багатьма змінними;
• розв’язування рівнянь, апроксимація і інтерполяція.
2. Статистика та теорія ймовірностей: випадкова величина, вибірка, описові характеристики, функція щільності розподілу, лінійна багатофакторна регресія, метод найменших квадратів, дискретні та неперервні випадкові величини.
3. Програмування: базові навики програмування на Python.
Учасники курсу повинні мати власний комп’ютер (ноутбук) з собою. Програмне забезпечення, яке буде використовуватися на курсі, включає:
• python + numpy + scipy + matplotlib
• jupyter notebooks

### Дати проведення курсу

Курс «Bayesian Methods» буде проводитися 14-16 червня. Заняття будуть тривати протягом всіх трьох днів.

### Зарахування на курс

Зарахування на курс відбувається на конкурсній основі. Апліканти заповнюють реєстраційну форму: goo.gl/forms/DoSLgEJOAsUcQSMD2 При відборі учасників береться до уваги персональна мотивація, попередній досвід в аналітиці даних (Data Science). Кінцевий термін прийому заявок на курс — 20 травня (включно). Оголошення результатів відбору — до 23 травня. Увага! Організатори залишають за собою право закрити реєстрацію на курс раніше в разі наявності достатньої кількості заявок для заповнення вакантних місць в класі. У разі необхідності організатори також можуть попросити провести онлайн співбесіду з кандидатами на участь задля уточнення питань реєстраційної форми, а також перевірки рівня необхідних знань.

### Вартість навчання

Загальна вартість курсу «Bayesian Methods» становить 5 000 грн. Реквізити для оплати учасникам будуть надані через електронну пошту. В разі не проведення оплати, організатори лишають за собою право скасувати реєстрацію учасника та звільнити місце для іншого кандидата. В разі виникнення фінансових питань, просимо звертатися якомога швидше (контактна інформація наведена нижче).

### Сертифікати

По завершенню курсу учасники в разі отримання позитивної оцінки (виконання мінімум 60% завдань) отримають сертифікат учасника курсу. Сертифікат учасника може бути використаний для зарахування навчальних кредитів за аналогічний курс в університетах в разі наявності такої можливості.

### Про викладача

Kamil Dedecius, Ph.D., research associate at the Department of Adaptive Systems, Institute of Information Theory and Automation, Czech Republic. Scientific interests:
• Bayesian estimation and probability
• Distributed estimation
• Approximate Bayesian computation
• Teaching and supervision of students
Personal web-page: staff.utia.cas.cz/dedecius/index.html