Хи-квадрат критерий (Chi-square test) Скачать в PDF

Синонимы: Критерий согласия Пирсона

Разделы: Метрики

Loginom: Отчет по регрессии

Критерий согласия для проверки гипотезы о законе распределения исследуемой случайной величины. Во многих практических задачах точный закон распределения неизвестен. Поэтому выдвигается гипотеза о соответствии имеющегося эмпирического закона, построенного по наблюдениям, некоторому теоретическому. Данная гипотеза требует статистической проверки, по результатам которой будет либо подтверждена, либо опровергнута.

Пусть $X$ — исследуемая случайная величина. Требуется проверить гипотезу $H_{0}$ о том, что данная случайная величина подчиняется закону распределения $F (x)$ . Для этого необходимо произвести выборку из $n$ независимых наблюдений над случайной величиной $X$ : $X^{n} = (x_{1}, \dots x_{n}), x_{i} \in [a, b], \forall i = 1 \dots n$ , и по ней построить эмпирический закон распределения $F^{'} (x)$ случайной величины $X$ .

Гипотеза $H_{0}^{'}$ : $X^{n}$ порождается функцией $F^{'} (x)$ .

Разделим $[a, b]$ на $k$ непересекающихся интервалов $[a_{i}, b_{i}], i = 1 \dots k$ .

Пусть $n_{j}$ — количество наблюдений в j-м интервале;

$p_{j} = F (b_{j}) - F (a_{j})$ — вероятность попадания наблюдения в j-й интервал при выполнении гипотезы $H_{0}^{'}$ ;

$E_{j} = n p_{j}$ — ожидаемое число попаданий в j-й интервал;

тогда распределение Хи-квадрат с числом степеней свободы $k - 1$ будет иметь следующую статистику:

$χ^{2} = k \sum j = 1 \frac{{(n_{j} - E_{j})}_{j}^{2}}{E_{j}} \sim χ_{k - 1}^{2}$

В зависимости от значения критерия $χ^{2}$ гипотеза $H_{0}$ может приниматься либо отвергаться:

$χ_{1}^{2} < χ^{2} < χ_{2}^{2}$ — гипотеза $H_{0}$ выполняется.
$χ^{2} \leq χ_{1}^{2}$ — попадает в левый «хвост» распределения. Следовательно, теоретические и практические значения очень близки. Если, к примеру, происходит проверка генератора случайных чисел, который сгенерировал $n$ чисел из отрезка [0,1] и выборка $X^{n}$ распределена равномерно на [0,1], то генератор нельзя называть случайным (гипотеза случайности не выполняется), т.к. выборка распределена слишком равномерно, но гипотеза $H_{0}$ выполняется.
$χ^{2} \geq χ_{2}^{2}$ — попадает в правый «хвост» распределения, гипотеза $H_{0}$ отвергается.