Теорема Байеса (Bayes’ theorem)

Разделы: Алгоритмы

В теории вероятности и математической статистике теорема Байеса определяет вероятность события с привлечением некоторых связанных с ним знаний и условий. Например, если вероятность просрочки по кредиту связана со стажем работы клиента, то учет стажа позволит оценить вероятность просрочки более точно.

Одним из многих применений теоремы Байеса является байесовский вывод — особый подход к статистическому выводу.

Теорема Байеса названа в честь Томаса Байеса, который первым использовал условную вероятность для определения вероятности взаимозависимых событий.

Математическая формулировка теоремы Байеса выглядит следующим образом:

$P\left(A|B\right)=\frac{P\left(B|A\right)P\left(A\right)}{P\left(B\right)}$,

где

• $A$ и $B$ — события, $P\left(B\right)\ne 0$;
• $P\left(A|B\right)$ — условная вероятность: вероятность события $A$ при условии, что событие $B$ произошло;
• $P\left(B|A\right)$ — условная вероятность: вероятность события $B$ при условии, что событие $A$ произошло;
• $P\left(A\right)$ и $P\left(B\right)$ — вероятности соответствующих событий, при условии их независимости (маргинальные вероятности).

В байесовской интерпретации вероятность трактуется как степень уверенности в истинности некоторого утверждения при условии наличия некоторых доказательств этого утверждения. Например, пусть имеется утверждение $A$, что клиент допустит просрочку по кредиту при условии $B$, что стаж его работы составляет 5 лет.

Тогда для утверждения $A$ и условия $B$:

• $P\left(A\right)$ — исходная (априорная) степень уверенности в истинности утверждения $A$;
• $P\left(A|B\right)$ — итоговая (апостериорная) степень уверенности в истинности утверждения $A$, при условии $B$;
• $P\left(B|A\right)P\left(A\right)$ — поддержка условия $B$ утверждению $A$.

Частотная интерпретация теоремы Байеса определяет соотношение числа результатов вероятностного эксперимента с различными исходами. Например, пусть $P\left(A\right)$ — доля опытов в эксперименте, в результате которых произойдет событие $A$, $P\left(B\right)$ — доля опытов, в результате которых произойдет событие $P\left(B\right)$. Тогда $P\left(B|A\right)P\left(A\right)$ — это доля опытов с событием $B$ в числе опытов с событием $A$, а $P\left(A|B\right)$ — это доля опытов с событием $A$ в числе опытов с событием $B$.