Сходимость алгоритма (Convergence of algorithm)

Свойство итерационного алгоритма достигать оптимума целевой функции или подходить достаточно близко к нему за конечное число шагов. Скорость сходимости алгоритмов — один из важнейших показателей качества аналитических обучаемых моделей. Часто, когда говорят о том, что один алгоритм является более быстрым, чем другой, имеют в виду именно скорость сходимости.

Результатом сходимости является то, что через конечное число итераций алгоритм останавливается, а аналитическая модель, которая построена с его использованием, будет обладать высокой точностью предсказания.

Однако следует отметить, что количество итераций, требуемое для достижения результата, зависит не только от скорости самого алгоритма, но и от качества данных. Если они характеризуются высокой вариабельностью, то более быстрый алгоритм может оказаться неустойчивым и вообще не обеспечит приемлемой точности. В то же время менее быстрый, но более устойчивый алгоритм сойдется за приемлемое число итераций.