Оптимизация (Optimization)

Разделы: Бизнес-задачи

В математике оптимизация — это задача нахождения экстремума (минимума или максимума) функции. В более широком смысле данное понятие может трактоваться как поиск оптимального состояния некоторой системы. При этом, если оно описывается определенной функцией, то задача оптимизации сводится к поиску ее экстремума, а сама функция в этом случае называется целевой.

В анализе данных под оптимизацией чаще всего понимают процесс поиска состояния модели, которое позволило бы решить поставленную задачу наилучшим образом. Например, оптимизация нейронной сети производится путем подбора весов ее нейронов. При этом целевой функцией будет функция ошибки, т.е. зависимость выходной ошибки сети от состояния ее весов.

В модели линейной регрессии оптимизируются коэффициенты уравнения регрессии с целью минимизировать сумму квадратов отклонений наблюдений данных от линии регрессии.

Задачи оптимизации находят применение практически во всех областях человеческой деятельности: науке, технике, экономике, медицине и бизнесе. Реальные прикладные задачи оптимизации очень сложны и не всегда могут быть решены современными математическими методами. Поэтому чаще всего ищут не точное решение, а задаются некоторым приближением, для которого задача имеет приемлемый уровень сложности.

Аналогично процесс обучения нейронной сети проводят до тех пор, пока не будет достигнуто достаточно малое значение выходной ошибки, а не нулевое. В этом смысле понятия «оптимальный» и «наилучший» не одно и то же.

Оптимизация — это стремление к наилучшему, но обычно недостижимому состоянию.