Итерационные методы

Итерационные методы это то с чего я начал. Их смысл в том, что на каждой итерации мы получаем некоторое приближение к решению, постепенно делая его точнее и точнее, а значит приближаясь ближе и ближе. В итоге решение может получится с какой-то точностью, но этого бывает достаточно. Иногда мне кажется, что придумали этот способ от нечего делать. Сидел какой-то математик, вертел матрицу и тут такой, а дай-как я вот так попробую, а потом так.. В общем увлёкся и решил систему. Конечно на самом деле всё было не так.

Метод Ньютона

Метод Ньютона это первый метод с которым я познакомился. Он был предложен английским учёным Исааком Ньютоном (1643—1727). Для скалярного уравнения:

(1)

При наличии хорошего приближения x_k к корню x‘ функции f(·). Расчётные формулы метода могут быть получены путём замены исходного уравнения (1) линейным уравнением в окрестности корня:

(2)

Решение этого уравнения принимается за очередное приближение x_k+1:

(3)

Метод Ньютона имеет простую геометрическую интерпретацию: график функции заменяется касательной к нему в точке (x_k, f(x_k)) и за очередное приближение x_k+1 принимается абсцисса точки пересечения её с осью OX. Используя эту интерпретацию легко получить расчётные формулы (3) метода Ньютона и вследствие этой интерпретации он именуется также методом касательных. На рисунке иллюстрация метода Ньютона (синим изображена функция f(x), нуль которой необходимо найти, красным — касательная в точке очередного приближения ). Здесь мы можем увидеть, что последующее приближение x_n+1 лучше предыдущего x_n.  Ясно, что сходимость последовательности {x_k} к корню зависит от свойств функции f (·) и не всегда имеет место. Так, легко представить, что уже приближение x₁ попадает на исходный интервал и процесс итераций останавливается. Четкие условия применимости метода Ньютона может дать теорема Канторовича. Но основным недостатком метода Ньютона является то, что до его применения необходимо хорошее приближение к решению, которое не всегда удаётся получить. Поэтому на практике этот метод не всегда применим.