Взаимосвязь и реализация квазиньютоновских и ньютоновских методов безусловной оптимизации

Рассмотрены ньютоновские и квазиньютоновские методы безусловной оптимизации, основанные на факторизации Холесского, с регулировкой шага и с конечно-разностной аппроксимацией первых и вторых производных. Для увеличения эффективности квазиньютоновских методов предложено модифицированное разложение Холесского квазиньютоновской матрицы, определяющее и решение проблемы масштабирования шагов при спуске, и аппроксимацию неквадратичными функциями, и интеграцию с методом доверительной окрестности. Предложен подход к увеличению эффективности ньютоновских методов с конечно-разностной аппроксимацией первых и вторых производных. Приведены результаты численного исследования эффективности алгоритмов.

Ключевые слова: ньютоновские методы, квазиньютоновские методы, факторизация Холесского, масштабирование шагов, метод доверительной окрестности, конечно-разностная аппроксимация, алгоритм, численные исследования, безусловная оптимизация
Цитата: Свириденко А.Б., Зеленков Г.А. Взаимосвязь и реализация квазиньютоновских и ньютоновских методов безусловной оптимизации // Компьютерные исследования и моделирование, 2016, т. 8, № 1, с. 55-78
Citation in English: Sviridenko A.B., Zelenkov G.A. Correlation and realization of quasi-Newton methods of absolute optimization // Computer Research and Modeling, 2016, vol. 8, no. 1, pp. 55-78

 

Дополнительные материалы:

 

Приложение KNmbm – программная реализация квазиньютоновских методах оптимизации с регулировкой шага, основанных на факторизации Холесского. Алгоритм реализован на языке Visual Basic .NET, среда разработки – Microsoft Visual Studio 2010. Варианты квазиньютоновского метода: симметричная формула ранга один, BFGS, DFP, PSB.

KNMBM.zip

 

 

Приложение KNmbmApp – программная реализация квазиньютоновских методах оптимизации с регулировкой шага, основанных на факторизации Холесского. KNmbmApp отличается от своего классического прототипа KNmbm конечно-разностной аппроксимацией первых производных. Алгоритм реализован на языке Visual Basic .NET, среда разработки – Microsoft Visual Studio 2010. Варианты квазиньютоновского метода: симметричная формула ранга один, BFGS, DFP, PSB.

KNMBMApp.zip

 

 

Приложение Nmbm (Свириденко А.Б. Свидетельство №2015610399 от 12.01.2015) – программная реализация ньютоновских методов оптимизации с регулировкой шага, основанных на факторизации Холесского. Алгоритм реализован на языке Visual Basic .NET, среда разработки – Microsoft Visual Studio 2010.

NMBM.zip

 

 

Приложение NmbmApp (Свириденко А.Б., Зеленков Г.А. Свидетельство №2015610347 от 12.01.2015) – программная реализация ньютоновских методов оптимизации с регулировкой шага, основанных на факторизации Холесского. NmbmApp отличается от своего классического прототипа Nmbm (Свириденко А.Б. Свидетельство №2015610399 от 12.01.2015) конечно-разностной аппроксимацией первых и вторых производных. Алгоритм реализован на языке Visual Basic .NET, среда разработки – Microsoft Visual Studio 2010.

NMBMApp.zip

 

Полнотекстовая версия журнала доступна также на сайте научной электронной библиотеки eLIBRARY.RU

Журнал входит в Перечень российских рецензируемых научных журналов, в которых должны быть опубликованы основные научные результаты диссертаций на соискание ученых степеней доктора и кандидата наук ВАК, группы специальностей: 01.01.00, 01.02.00, 03.01.00, 03.02.00.
 

Международная Междисциплинарная Конференция "Математика. Компьютер. Образование"

Международная Междисциплинарная Конференция МАТЕМАТИКА. КОМПЬЮТЕР. ОБРАЗОВАНИЕ.

Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science