Ошибка обучения (Training Error) Скачать в PDF

Синонимы: Ошибка на обучающем множестве

Разделы: Метрики

В теории машинного обучения под ошибкой обучения понимают разность между желаемым (целевым) $y$ и фактическим $y^{\prime }$ выходом модели на примерах обучающего множества, т.е. $E=y-y^{\prime }$.

Особенно большую роль играет ошибка при обучении нейронной сети, поскольку производная ошибки на обучающем множестве используется для расчета коррекции весов нейронов. Если нейронная сеть имеет несколько выходных нейронов, то ошибка обучения определяется как средний квадрат ошибок на каждом выходе:

$E_{mse}=\frac{1}{N}\sum _{i=1}^N(y-y^{\prime }{)}^2$

Ошибка обучения является показателем точности настройки модели на обучающем множестве и может использоваться в качестве условия остановки обучения. Однако она не позволяет оценить точность работы модели с новыми данными, не участвовавшими в процессе обучения, т.е. обобщающей способности модели. Для этого необходимо использовать ошибку обобщения, т.е. ошибку модели на тестовом множестве.