RPCA模型及GoDec算法

VIPRPCA模型及GoDec算法
一、基础知识在线性代数中,秩的物理意义是矩阵中最大的不相关的向量个数,因此秩可以用来度量相关性;而在图像处理中,秩就可以理解为图像中所包含的信息的丰富程度。图片中比较突兀的成分,会增加图像矩阵的秩,一幅清晰的自然图像其数据矩阵往往是低秩或者近似低秩的,这是因为其中的图像信息有很大的相关性,但如果图像中引入噪声,那么存在随机幅值任意大但是分布稀疏的误差破坏了原有数据的低秩性。低秩矩阵:如果AAA是一个m×nm×nm×n的矩阵,rank(A)rank(A)rank(A)是矩阵AAA的秩,如果rank(A)
开通可读全文 ·7.6k 人阅读
最低0.47元/天 解锁文章

一、基础知识

  1. 在线性代数中,秩的物理意义是矩阵中最大的不相关的向量个数,因此秩可以用来度量相关性;而在图像处理中,秩就可以理解为图像中所包含的信息的丰富程度。图片中比较突兀的成分,会增加图像矩阵的秩,一幅清晰的自然图像其数据矩阵往往是低秩或者近似低秩的,这是因为其中的图像信息有很大的相关性,但如果图像中引入噪声,那么存在随机幅值任意大但是分布稀疏的误差破坏了原有数据的低秩性。
  2. 低秩矩阵:如果 A A A是一个 m × n m×n m×n的矩阵, r a n k ( A ) rank(A) rank(A)是矩阵 A A A的秩,如果 r a n k ( A ) rank(A) rank(A)远小于 m m m和 n n n,则我们称 A A A是低秩矩阵。低秩矩阵说明这个矩阵包含了大量的冗余信息,秩越低表示数据冗余性越大。
  3. 低秩是指矩阵的秩较小
  4. 稀疏是指矩阵中非零元素的个数少,即大部分元素都为0,只有小部分元素不为0,用 l 0 l_0 l0​范数度量
  5. 矩阵 L L L的0范数:矩阵 L L L中非零元素的个数;非零元素个数越少, L L L越稀疏
  6. 矩阵 L L L的核范数(nuclear norm):矩阵 L L L的奇异值之和;核范数越小,可近似认为矩阵 L L L的秩越低
  7. 矩阵 L L L的1范数:矩阵 L L L中各列元素绝对值的和的最大值;这个和很小,趋近于0的时候,可近似认为非零元素个数很少。
    ∣ ∣ L ∣ ∣ 1 = max ⁡ j ∑ i = 1 m ∣ a i j ∣ ||L||_1=\max\limits_{j}\sum_{i=1}^{m}|a_{ij}| ∣∣L∣∣1​=jmax​i=1∑m​∣aij​∣
  8. P问题(Polynomial Solvable):可以在多项式时间内解决的问题;时间复杂度如 ( n 2 , n 4 , n ( l o g ( n ) ) ) (n^2,n^4,n(log(n))) (n2,n4,n(log(n)))都是多项式时间
  9. NP问题:多项式复杂程度的非确定性问题
    NP难问题的进一步理解

二、鲁棒主成分分析(RPCA)

概述

低秩矩阵恢复模型(LRMR)主要有鲁棒主成分分析(RPCA)、矩阵补全(matrix completion,MC)和低秩表示(low-rank representation,LRR)等三类模式。

低秩矩阵恢复问题,也被称为低秩稀疏分解问题,又被称为鲁棒主成分分析问题,可描述为从一个已知矩阵 D ∈ R m × n \boldsymbol{D∈R^{m×n}} D∈Rm×n恢复出一个低秩矩阵 L ∈ R m × n \boldsymbol{L∈R^{m×n}} L∈Rm×n和一个稀疏矩阵 S ∈ R m × n \boldsymbol{S∈R^{m×n}} S∈Rm×n。1
D = L + S D=L+S D=L+S

数学模型

低秩矩阵恢复问题的数学模型可表示为
min ⁡ L , S r a n k ( L ) + λ ∣ ∣ S ∣ ∣ 0 s . t . D = L + S (1) \min\limits_{L,S} rank(L)+\lambda||S||_0 \qquad s.t. \quad D=L+S \tag{1} L,Smin​rank(L)+λ∣∣S∣∣0​s.t.D=L+S(1)
其中 r a n k ( L ) rank(L) rank(L)表示矩阵的秩, ∣ ∣ S ∣ ∣ 0 ||S||_0 ∣∣S∣∣0​表示矩阵 S S S非零元的个数。
 
表示的含义是当低秩矩阵 L L L的秩和稀疏矩阵 S S S的0范数均取得最小值的时候,所得到的对应的 L L L和 S S S.

上式中秩函数、零范数都是非凸非线性的组合优化函数,模型1是非凸NP-难问题,直接求解很难。需要在一定条件下对其松弛,方可进行优化。

用矩阵的核函数来近似矩阵的秩,用矩阵的1范数来近似0范数3。由范数知识可知,核函数是秩函数的凸包,1范数是0范数的凸包,所以上述NP-难问题松弛后可转化为凸优化问题:
min ⁡ L , S ∣ ∣ L ∣ ∣ ∗ + λ ∣ ∣ S ∣ ∣ 1 s . t . D = L + S (2) \min\limits_{L,S} ||L||_*+\lambda||S||_1 \qquad s.t. \quad D=L+S \tag{2} L,Smin​∣∣L∣∣∗​+λ∣∣S∣∣1​s.t.D=L+S(2)
式(2)中的核范数是指矩阵 D D D的奇异值的和,主要用来约束 D D D的低秩属性, L 1 L_1 L1​范数用来约束误差图像矩阵 S S S的稀疏性。2

基于凸优化松弛模型 2,已经有很多算法被提出,其中包括増广拉格朗日乘子法(augmented Lagrange multiplier,ALM)、加速的近似梯度法(accelerated proximal gradient,APG)和交替方向法(alternating direction method of mutipliers,ADMM)。1

矩阵低秩分解理论
矩阵分解在推荐系统中的应用


三、GoDec算法4

GoDec原理

GoDec算法是低秩稀疏领域中一种新型的快速近似分解方法。基本思想是将一个原始矩阵快速分解成低秩矩阵、稀疏矩阵和噪声矩阵三部分。且可以指定 X − S X-S X−S到 L L L的低阶近似和 X − L X-L X−L到 S S S的稀疏近似。利用预先设定的低秩参数 r r r和稀疏参数 k k k,可以将不具备严格低秩稀疏结构的矩阵进行低秩稀疏近似分解。

其数学模型如下:
D = L + S + N , r a n k ( L ) ≤ r , c a r d ( S ) ≤ k (3) D=L+S+N,\quad rank(L)≤r,\quad card(S)≤k \tag{3} D=L+S+N,rank(L)≤r,card(S)≤k(3)
式中, r a n k ( L ) rank(L) rank(L)表示对矩阵 L L L求秩, c a r d ( S ) card(S) card(S)表示矩阵 S S S的稀疏度, k k

VIP GoDec算法实战:利用低秩稀疏分解实现鲁棒异常检测 矩阵分解是数据科学中的基础工具,但面对含有异常值的现实数据时,传统主成分分析(PCA)常因少数野点而偏离主方向。为解决此类问题,鲁棒主成分分析(RPCA)通过将观测矩阵分解为低秩部分与稀疏部分,有效分离了正常模式与异常扰动。GoDec作为RPCA的高效求解算法,采用双边随机投影替代全量奇异值分解,在保持分解精度的同时大幅降低计算复杂度,使大规模数据的异常检测成为可能。该方法在视频监控背景建模、金融时序风险识别、用户行为分析等场景中具有广泛应用价值。本文从数学模型、算法推导到Python实现,系统梳理GoDe 开通可读全文·89 阅读·0 点赞·5 收藏 阅读全文

相关推荐

图像异常检测 5 大传统方法对比:从模板匹配到稀疏编码的适用场景与性能分析

本文深入对比了图像异常检测的五大传统方法,包括模板匹配、统计建模、图像分解、频域分析和稀疏编码,分析了它们在工业质检和医疗影像等场景中的适用性与性能表现。通过技术原理剖析和实战案例,揭示了传统方法在小样本、计算效率和可解释性方面的独特优势,为相关领域的技术选型提供重要参考。

weixin_33816821的博客 397

BG-SINDy:基于主导平衡与分组稀疏回归的多尺度系统方程发现

稀疏方程发现是系统辨识与物理信息机器学习中的关键技术,旨在从高维观测数据中自动识别出简洁、可解释的数学模型。其核心原理在于,假设真实动力学方程可由一个庞大的候选函数库(如多项式、三角函数等)的稀疏线性组合表示,并通过L1正则化等稀疏回归技术筛选出关键项。该技术的核心价值在于,能够从混杂、带噪的数据中自动化地提取出支配系统演化的本质规律,为复杂系统建模提供了数据驱动的解决方案。经典方法如SINDy在处理单一尺度系统时表现优异,但在面对多尺度系统(其变量变化速率差异巨大)时,全局稀疏回归会因信号量级差异而失效,

weixin_33713350的博客 341

MATLAB实现红外弱小目标检测:从背景抑制到深度学习实战

在计算机视觉与图像处理领域,目标检测是识别和定位图像中特定对象的核心技术。其基本原理是通过分析像素特征、区域对比度或深度学习模型,将目标从复杂背景中分离出来。这项技术的核心价值在于实现自动化、高精度的信息提取,广泛应用于安防监控、自动驾驶、工业质检以及军事预警等关键场景。针对红外图像中普遍存在的信噪比低、目标尺寸微小等挑战,传统方法如基于背景抑制的顶帽变换、Max-Mean滤波,以及现代的低秩稀疏分解模型,都致力于增强目标显著性。近年来,结合特征金字塔和注意力机制的深度学习模型,为解决小目标特征易丢失、样本

weixin_30522183的博客 399

RPCA低秩稀疏分解Python实现:视频背景建模与运动目标检测

在视频分析与计算机视觉中,背景建模和运动目标检测常可归结为矩阵分解问题:把连续帧按像素×时间堆叠成矩阵,稳定背景因帧间高度相关而呈现低秩结构,运动前景只占少数像素而呈现稀疏结构。RPCA(鲁棒主成分分析)通过核范数与L1范数的凸松弛(PCP)求解低秩稀疏分解,相比传统PCA的高斯小噪声假设,对遮挡、光照抖动和大残差更鲁棒。其技术价值在于无需标注即可分离背景与前景,广泛应用于监控视频前景提取、走廊运动目标检测、异常事件发现和图像去噪。围绕这一思想,Python实现可拆分为软阈值、奇异值阈值等算子,以及IALM

weixin_30952479的博客 205

鲁棒主成分分析(RPCA)学习指南与实战

主成分分析(PCA)是一种统计方法,它通过正交变换将可能相关的变量转换为一组线性不相关的变量,这些新变量称为主成分。PCA的主要用途是数据降维,它帮助我们理解数据中的主要变化趋势,同时去除噪声和冗余信息。主成分分析(PCA)是一种广泛用于降维的统计方法,它通过正交变换将可能相关的变量转换为一组线性不相关的变量,这些新变量称为主成分。然而,PCA在面对含有大量噪声和异常值的数据集时,其性能会受到严重影响。这是因为PCA试图最小化数据的重构误差,而异常值的存在会导致重构误差增大,从而影响主成分的有效性。

weixin_42560991的博客 3309

GoDec的matlab代码

矩阵的低秩+稀疏分解,可用于视频处理中让视频的前景和背景分离的matlab程序

RPCA:RPCA的Python实现

梨树 RPCA 的 Python 实现 用法 import numpy as np import pyrpca n = 50 r = 2 np.random.seed(123) base = 100 + np.cumsum(np.random.randn(n,r),axis=0) scales = np.abs(np.random.randn(n,r)) L = np.dot(base,scales.T) S = np.round(0.25 * np.random.randn(n,n)) M = L + S L_hat,S_hat,niter = pyrpca.rpca_alm(M) np.max(np.abs(S-S_hat)) np.max(np.abs(L-L_hat)) _,s,_ = np.linalg.svd(L,full_matrices=False) print s[s

图像矩阵matlab代码-cuda-rpca-admm:使用ADMM进行优化以实现前景背景分离的鲁棒PCA的CUDA实现

图像矩阵matlab代码生成矩阵使用generate_matrix.m文件生成指定大小和特定等级的随机矩阵 命令- generate_matrix(25344, 200, 1); 在这里25344对应于图像大小(144 x 176),而200对应于视频中的帧数。请注意,第一个尺寸应大于generate_matrix()中的第二个尺寸,这样我们的算法才能起作用。 (25344> 200) 此命令将生成一个200A.dat文件,该文件将用作我们的RPCA算法的输入 使用MATLAB使用ADMM运行RPCA在MATLAB中,使用admm_example.m文件运行RPCA的ADMM。 提供在上一步中生成的矩阵作为输入。 命令- admm_example('200A.dat'); 该命令将运行admm并将输出矩阵写入三个不同的文件,例如boyd_X1.dat等。 使用ADMM使用CUDA运行RPCA对于CUDA代码,请使用脚本compile_and_run.sh编译代码并运行文件。 提供输入矩阵作为此脚本的参数。 命令- ./compile_and_run.sh 200A.dat 此命令将运行

GoDec注释版_GoDec算法_GoDec低秩矩阵_

GODEC矩阵分解算法matlab程序,需要的自取

GXHT40温湿度传感器:I2C通信与CRC校验实战解析

本文详细解析GXHT40温湿度传感器的I2C通信协议与CRC校验机制,涵盖硬件连接、时序控制、数据读取及加热功能应用。通过实战案例分享优化技巧与异常处理,帮助开发者提升嵌入式系统中传感器数据的准确性与可靠性。

rgv234567的博客 246

稳定性性能系列之十五——系统稳定性监控体系建设:从指标到预警的完整方案

深入探讨Android系统稳定性监控体系的设计与实现,涵盖指标体系设计、数据采集方案、异常检测算法、预警响应机制,并提供完整的监控平台搭建实践。

Cheson的专栏 1365

《R语言实战》第八章之回归分析图形

回归分析图形 回归分析分为简单回归与复杂回归 1 : 简单线性回归即:模型中只包含一个因变量和一个自变量,有时候也会包含多项式, 这个图形描述了身高与体重的线性关系,这也是一个多项式图形 2:当我们的预测变量(自变量)不止一个时,就属于多元线性回归,而且多元线性回归中也可以包含多项式以及交互项 (1)在进行多远回归分析之前可以先描述变量之间的相关关系 上图为一个散点图矩阵,描述了五个变量之间的相关关系,我们可以通过非主对角线的散点图来查看两个变量之间的关系。 多元线性回归简单地就是OLS回归,通过lm和

Strawberry_Ya的博客 1837

【读论文】AI陪伴场景长期记忆(用户画像)解决方案

在长程人机交互中,如何让 AI 记住用户,不再是简单的“检索增强(RAG)”就能解决的问题。传统的向量数据库面临“信息信噪比低”、“人格不一致”以及“随着对话无限增长而崩塌”的困境。MemTensor 团队联合人大提出的Inside Out框架,从认知心理学汲取灵感,提出了一种基于PersonaTree(人格树)的显式记忆进化机制。该方案通过训练一个轻量级的(使用 DeepSeek-R1 蒸馏数据 + GRPO 强化学习),实现了将非结构化对话流实时压缩为结构化树操作(新增|更新|删除)。

kakaZhui的博客 824

MD5算法 C语言 (从OpenSSL库中分离算法:一)

从OpenSSL库中分离算法-MD5算法 OpenSSL简介: OpenSSL 是用于传输层安全性 (TLS) 和安全套接字层 (SSL) 协议的一个强大、商业级和功能齐全的工具包,它也是一个通用的密码学库。包含有RSA、SM4、DES、AES等诸多加密算法。 OpenSSL GitHub地址如下: GitHub - openssl/openssl: TLS/SSL and crypto library 在日常的开发工作中,有时只想用OpenSSL库中的一种算法,此时调用整个OpenSSL库,往往是没必要的

逆光倾城的博客 4032

微信小程序(云开发) - 实现微信小程序拼团功能+前后台源码/数据库设计,开团参团、自动成团、微信分享链接URL参与拼团、组团人数/倒计时/实时数据、设置拼团人数限制等(拼团退款处理逻辑、订单同步等)

实现微信小程序云开发拼团功能,云开发小程序--微信拼团设计实现,微信小程序实现秒杀、拼团等效果,微信小程序云开发拼团源码完整版 包含前后台和数据库,拼团商城小程序开发,分销,拼团,社群团购,微信小程序—判断参团人数(设置拼团剩余人数数组)拼多多拼团小程序开发,微信云开发教程怎么实现微信小程序云开发拼团功能?云开发如何实现拼团,拼团小程序怎么弄,微信小程序案例:拼团模块,需要朋友助力,详细源码demo示例,如何做拼团功能,云开发小程序如何做拼团功能,外卖电商拼团,仿拼多多拼团,拼团后退款怎么办,拼团后订单管理

🏆 前端领域优质创作者 4632

使用ESP32设计嵌入式蓝牙游戏手柄

通过使用ESP32开发板和相关的库,我们可以设计和实现嵌入式蓝牙游戏手柄。连接到该设备后,您可以使用控制器模块的按钮和摇杆等元件来模拟游戏手柄的输入。根据您使用的具体模块和引脚分配,连接按钮和摇杆等控制元件到ESP32的GPIO引脚。ESP32是一款功能强大的微控制器,集成了Wi-Fi和蓝牙功能,非常适合用于开发物联网和嵌入式应用。请注意,本文仅提供了一个基于ESP32的嵌入式蓝牙游戏手柄设计示例,具体实现可能因硬件和需求而有所不同。确保开发板正确连接到计算机,并选择正确的开发板和端口。

CodeMaven的博客 1644

【KingSCADA】如何建立硬件系统及相关变量

本篇主要讲解如何定义设备,如何定义变量。KingSCADA3.8的采集系统是指负责和现场设备进行通讯,并采集现场数据和控制现场数据的模块,称之为采集器,也叫IOServer应用,它是一组独立的应用程序,可以脱离KingSCADA3.8软件,它依赖于KingSCADA3.8驱动产品,通过驱动与IO设备进行通讯。采集系统由通讯链路,设备,数据块组成。链路:链路是指计算机通过什么方式(接口)与设备进行连接,链路类别:串口,以太网,GPRS,Modem,通信卡,采集卡,无链路。

做有价值的事,积累有价值的笔记! 1万+

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

上一篇: 特征值分解与奇异值分解
下一篇: Markdown写文章的一些小技巧
知知知_了
博客等级 码龄7年 685粉丝 60原创
评论 3
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址