Знаходження оптимальних значень функцій із застосуванням методу спряжених градієнтів

Abstract

В статті для розв’язання некоректно поставлених задач методом регуляризації розглядається метод спряжених градієнтів. Градієнтом називається вектор, величина якого визначає швидкість змінення функції, а напрямок співпадає з напрямком найбільшого зростання цієї функції. Вектор, що указує напрямок найбільшого зменшення функції, називається антиградієнтом функції. Метод спряжених градієнтів застосовується для розв’язання задач безумовної мінімізації, для відшукання екстремалі згладжуючого функціоналу. Цей метод являється ітераційним методом. Загальною властивістю більшості ітераційних алгоритмів є швидке спадання швидкості мінімізації при наближенні до точки мінімуму функціонала. Тому важливою характеристикою ітераційних алгоритмів являється той фактичний мінімальний рівень значень функціонала нев’язки, до якого вдається довести процес мінімізації за реальний час. В роботі описаний метод найскорішого спуску, як метод, що передує методу спряжених градієнтів і поєднує в собі два поняття: градієнт цільової функції та сполучений напрямок векторів. Також приведений метод сполучених напрямків та два методи пошуку вагового коефіцієнта. В статті аналізуються градієнтні методи пошуку оптимальних значень квадратичних функцій та функцій загального виду. Метод спряжених градієнтів є методом першого порядку, але швидкість його збіжності квадратична, чим цей метод вигідно відрізняється від звичайних градієнтних методів. Недоліком градієнтного пошуку є те, що при його використанні можна виявити тільки локальний екстремум функції. Для відшукання інших локальних екстремумів необхідно проводити пошук з інших початкових точок. Побудований алгоритм мінімізації функціонала за допомогою методу спряжених градієнтів.