An adaptive three-term conjugate gradient method based on self-scaling memoryless BFGS matrix

Yao, Shengwei; Ning, Liangshuo

doi:10.1016/j.cam.2017.10.013

Cited by 22 publications

(15 citation statements)

References 33 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…All codes are written in Matlab R2013a and ran on PC with 1.80 GHz CPU processor and 8.00 GB RAM memory. We compare NACG against TTCG [2], MTHREECG [14] and NTAP [37], which have a similar structure in search direction and have been reported to be superior to the classical PRP method, HS method and CG-DESCENT [18] method, etc.…”

Section: Numerical Resultsmentioning

confidence: 99%

See 1 more Smart Citation

A new accelerated conjugate gradient method for large-scale unconstrained optimization

2019

View full text Add to dashboard Cite

In this paper, we present a new conjugate gradient method using an acceleration scheme for solving large-scale unconstrained optimization. The generated search direction satisfies both the sufficient descent condition and the Dai-Liao conjugacy condition independent of line search. Moreover, the value of the parameter contains more useful information without adding more computational cost and storage requirements, which can improve the numerical performance. Under proper assumptions, the global convergence result of the proposed method with a Wolfe line search is established. Numerical experiments show that the given method is competitive for unconstrained optimization problems, with a maximum dimension of 100,000.

show abstract

Section: Numerical Resultsmentioning

confidence: 99%

“…No additional storage cost is required during the calculation. Compared with the existing effective algorithms TTCG [2], MTHREECG [14] and NTAP [37], the TTCG and the MTHREECG require O(4n) operations, while the NTAP requires O(5n) operations. In one word, our algorithm NACG is competitive in computational cost.…”

Section: Algorithm 1 (Nacg)mentioning

confidence: 99%

A new accelerated conjugate gradient method for large-scale unconstrained optimization

2019

View full text Add to dashboard Cite

show abstract

“…There are some well-known conjugate gradient methods, such as Fletcher-Reeves (FR) method, 48 Hestenes-Stiefel (HS) method, 49 Polak-Ribiere-Polyak (PRP) method, 50,51 and Dai-Yuan (DY) method. 52 Yao and Ning 53 proposed a three-term conjugate gradient method based on self-scaling memoryless Broyden-Fletcher-Goldfarb-Shanno (BFGS) matrix. Fatemi 54 proposed a new efficient conjugate gradient method combining the good features of the linear conjugate gradient method and some penalty parameters.…”

Section: Introductionmentioning

confidence: 99%

A new hybrid conjugate gradient method for dynamic force reconstruction

Wang

Liu

Xie

et al. 2019

Advances in Mechanical Engineering

View full text Add to dashboard Cite

A new hybrid conjugate gradient method is proposed in this article based on the gradient operator and applied to the structural dynamic load identification problem. It has proved that the present method with the strong Wolfe line search possesses sufficient descent property. In addition, the present method is globally convergent when the parameter in the strong Wolfe line search conditions is restricted in some suitable intervals. Three example problems from engineering are solved by the newly developed conjugate gradient method to demonstrate the robustness and effectiveness of conjugate gradient method in solving multi-source dynamic load identification problems. Compared with the traditional Landweber iteration regularization method (Landweber), the proposed conjugate gradient method can more stably and effectively overcome the influences of noise, largely reduce the number of iterations, and provide accurate results in identifying multi-source dynamic force in practical engineering structure.

show abstract

“…обычно не позволяют решать подобные задачи, т. к. с их помощью, как правило, удается найти только один локальный экстремум. Наибольшую эффективность при решении многоэкстремальных задач высокой размерности показали популяционные алгоритмы оптимизации [1][2][3][4][5][6][7][8][9][10][11][12][13][14][15][16]. При этом популяция является множеством особей (агентов, частиц), представляющих собой векторы из области D.…”

Section: Introductionunclassified

Модификация Алгоритма Роя Частиц На Основе Метода Анализа Иерархий

Королев¹,

Майков²

2019

sait

View full text Add to dashboard Cite

Существует ряд задач математического моделирования, при решении которых возникает необходимость найти точку максимума или минимума некоторой функции многих переменных. Например, это обучение нейронных сетей, идентификация параметров математических моделей по экспериментальным данным, нахождение оптимального управления для этих моделей. Для быстрого нахождения точки экстремума разработано множество популяционных алгоритмов оптимизации (алгоритм роя частиц (PSO), генетический алгоритм и другие). В работе предложена модификация алгоритма роя частиц, основанная на методе анализа иерархий. Схема разработанного алгоритма инспирирована поведением пресноводных гидр, поэтому авторы предлагают назвать его Н-алгоритмом. Выполнены последовательная и параллельная (коалгоритмическая) гибридизация разработанного алгоритма с генетическим алгоритмом, использующим вещественное кодирование (RGA). Для рассмотренных алгоритмов реализована высокоуровневая гибридизация вложением, при которой в окрестности особи с наилучшим значением целевой функции осуществляется локальный поиск с помощью метода сопряженных градиентов (обучение лидера). Сравнение скорости сходимости рассматриваемых методов выполнялось на примере различных многоэкстремальных тестовых функций (функция Розенброка, Дэвиса, Экли, Расстригина). Базовые алгоритмы PSO, RGA и H-алгоритм для различных тестовых функций показали различную, но в среднем одинаковую скорость сходимости. Обучение лидера существенно повысило скорость сходимости всех алгоритмов. Наилучшие результаты по скорости сходимости показали параллельная и последовательная гибридизация алгоритма RGA и H-алгоритма.

show abstract

An adaptive three-term conjugate gradient method based on self-scaling memoryless BFGS matrix

Cited by 22 publications

References 33 publications

A new accelerated conjugate gradient method for large-scale unconstrained optimization

A new accelerated conjugate gradient method for large-scale unconstrained optimization

A new hybrid conjugate gradient method for dynamic force reconstruction

Модификация Алгоритма Роя Частиц На Основе Метода Анализа Иерархий

Contact Info

Product

Resources

About