Локальный минимум (Local minimum)

В математическом анализе и численных методах под локальным минимумом понимают экстремум функции в точке, значение которой минимально в некоторой локальной области определения.

Пусть некоторая функция имеет область определения . Тогда говорят, что функция имеет локальный минимум в точке , если существует , такая, что для всех окрестности .

Локальный минимум

Понятие локального минимума имеет большое значение в области оптимизации, задачи которой лежат в основе алгоритмов обучения искусственных нейронных сетей, генетических алгоритмов, машин опорных векторов, алгоритма муравьиной колонии и др.

Например, в алгоритме обратного распространения ошибки для коррекции весов нейросети используется градиентный спуск, продвигающийся к минимуму целевой функции в соответствии с локальным наклоном поверхности ошибки. Он хорошо работает в случае сильно изрезанных невыпуклых поверхностей, которые встречаются в практических задачах.

В одних случаях локальный минимум является приемлемым решением, если выходная ошибка сети меньше заданной, в других — неприемлемым. Если решение неудовлетворительно, приходится давать весам новые начальные случайные значения и повторно обучать сеть.

results matching ""

    No results matching ""