Bayesian Methods

Структура курсу

День 1  

Lectures

• Introduction to the Bayesian theory
  • Real-world examples in industry, space navigation, target tracking, etc.. Principles, uncertainty, prior/posterior knowledge, hyperparameters, likelihood, Bayes theorem, difference to frequentist statistics, sequential (online) modeling. Types of estimates.
• Linear models
  • Prior and posterior distribution, the existence of analytical solutions, conjugacy, exponential family, real-world examples.
  • Linear regression and autoregression, types of reality-reflecting models (black box, grey box), construction of linear models based on physical principles.

Practical classes

• Basics of Bayesian estimation with conjugate prior distributions
  • Simple examples – network probing with ping (Bernoulli model – beta prior), sequential estimation, types of estimates, quantification of posterior uncertainty.
• Linear models
  • Sequential (online) linear regression and autoregression with real data. Exponential forgetting in the estimation of models with time-varying parameters.

День 2

Lectures

• Generalized linear models (GLMs)
  • Logistic regression and online logistic regression, MAP estimation. Sketch of other GLMs. Practical examples.
• State-space models I
  • Evolution of model parameters (i.e., states). Linear state-space models, Kalman filtering. Real-world examples (Apollo program, free fall equation, target tracking).

Practical classes

• Sequential logistic regression
  • Construction and online estimation of a model of a convenient real-world problem.
• Kalman filtering
  • Construction and online estimation of a convenient real-world problem (probably target tracking).

День 3

Lectures

• State-space models II
  • Nonlinear models and introduction to particle filtering. Principles of particle filters, filter degeneracy, resampling.
• Advanced methods
  • Discussion of principles of selected advanced methods like Dynamic Model Averaging, Approximate Bayesian Computation and/or others based on students’ interests.

Practical classes

• Particle filtering
  • Construction and online estimation of a convenient nonlinear state-space model of a real-world
• Concluding discussion

Мова викладання – ангілйська.

Вимоги до попередніх знань учасників курсу

1. Вища математика:
   • лінійна алгебра (дії з матрицями, обернена матриця);
   • математичний аналіз:
   • диференційне числення, знаходження екстремуму функції з багатьма змінними;
   • розв’язування рівнянь, апроксимація і інтерполяція.
2. Статистика та теорія ймовірностей: випадкова величина, вибірка, описові характеристики, функція щільності розподілу, лінійна багатофакторна регресія, метод найменших квадратів, дискретні та неперервні випадкові величини.
3. Програмування: базові навики програмування на Python.

Учасники курсу повинні мати власний комп’ютер (ноутбук) з собою. Програмне забезпечення, яке буде використовуватися на курсі, включає:

• python + numpy + scipy + matplotlib
• jupyter notebooks

Дати проведення курсу

Курс «Bayesian Methods» буде проводитися 14-16 червня. Заняття будуть тривати протягом всіх трьох днів.

Зарахування на курс

Зарахування на курс відбувається на конкурсній основі. Апліканти заповнюють реєстраційну форму: goo.gl/forms/DoSLgEJOAsUcQSMD2 При відборі учасників береться до уваги персональна мотивація, попередній досвід в аналітиці даних (Data Science). Кінцевий термін прийому заявок на курс — 20 травня (включно). Оголошення результатів відбору — до 23 травня. Увага! Організатори залишають за собою право закрити реєстрацію на курс раніше в разі наявності достатньої кількості заявок для заповнення вакантних місць в класі. У разі необхідності організатори також можуть попросити провести онлайн співбесіду з кандидатами на участь задля уточнення питань реєстраційної форми, а також перевірки рівня необхідних знань.

Вартість навчання

Загальна вартість курсу «Bayesian Methods» становить 5 000 грн. Реквізити для оплати учасникам будуть надані через електронну пошту. В разі не проведення оплати, організатори лишають за собою право скасувати реєстрацію учасника та звільнити місце для іншого кандидата. В разі виникнення фінансових питань, просимо звертатися якомога швидше (контактна інформація наведена нижче).

Сертифікати

По завершенню курсу учасники в разі отримання позитивної оцінки (виконання мінімум 60% завдань) отримають сертифікат учасника курсу. Сертифікат учасника може бути використаний для зарахування навчальних кредитів за аналогічний курс в університетах в разі наявності такої можливості.

Про викладача

Kamil Dedecius, Ph.D., research associate at the Department of Adaptive Systems, Institute of Information Theory and Automation, Czech Republic. Scientific interests:

• Bayesian estimation and probability
• Distributed estimation
• Approximate Bayesian computation
• Teaching and supervision of students

Personal web-page: staff.utia.cas.cz/dedecius/index.html

Контактна інформація

E-mail: mscs@ucu.edu.ua Facebook: www.facebook.com/ucucsds/