Метод максимального правдоподобия (Maximum likelihood estimation)

Синонимы: MLE, Метод наибольшего правдоподобия

Разделы: Алгоритмы

В математической статистике метод максимального правдоподобия — это метод оценки параметров вероятностного распределения с помощью максимизации функции правдоподобия. Точка в пространстве параметров, которая максимизирует функцию правдоподобия, называется оценкой максимального правдоподобия.

Предположим, что имеется некоторый набор наблюдений, который является случайной выборкой из некоторой неизвестной совокупности. Целью оценки максимального правдоподобия являются выводы о совокупности, из которой была сформирован выборка, в частности, о совместном распределении вероятностей случайных величин , не обязательно независимых и одинаково распределенных.

С каждым распределением вероятностей связан уникальный вектор , которые индексируют распределение вероятностей в параметрическом семействе. Пространство параметров полагается евклидовым и имеющим конечную размерность.

Оценка совместной плотности на наблюдаемой выборке данных это вещественная функция , которая называется функцией правдоподобия. Для независимых и одинаково распределённых случайных переменных, будет произведением одномерных функций плотности. Целью оценки максимального правдоподобия является поиск значений параметров модели, которые максимизируют функцию правдоподобия в пространстве параметров, то есть

Такой выбор параметров делает наблюдаемые данные наиболее вероятными. Определённое значение , которое максимизирует функцию правдоподобия называются оценками максимального правдоподобия.

results matching ""

    No results matching ""