Sparse regularized optimization via Gauss-Seidel iterative thresholding

Abstract

Gauss-Seidel 的迭代算法, 称作 Gauss-Seidel 跳跃阈值迭代算法 (Gauss-Seidel iterative jumping thresholding algorithm, GSIJT), 用以快速解决以上问题. 本文首先证明了由 GSIJT 所产生序列的支撑与符号的有 限收敛性. 基于此收敛性质, 同时利用 restricted Kurdyka-Lojasiewicz (rKL) 性质给出 GSIJT 算法的 全局收敛性. 此外给出了 GSIJT 的收敛率, 并且证明了任意的极限点都是驻点. 本文实施了一系列的 数值实验来验证所提算法的有效性. 特别地, 通过与相关的阈值迭代算法进行比较, 表明所提算法不 仅收敛更快, 同时可选择的步长范围更宽.关键词 稀疏正则化 ℓq (0 < q < 1) 正则化 阈值迭代算法 Gauss-Seidel Kurdyka-Lojasiewicz 不等式 MSC (2010) 主题分类90C26