Journal of Southwest University for Nationalities Natural Science Edition ___________________________________________________________________
文章编号: 1003-2843(2008)01-0030-06
第34卷第1期
西南民族大学学报·自然科学版
Feb.2008
一种非负矩阵分解算法
杨轩
( 陕西师范大学数学与信息科学学院, 西安 710062 )
摘 要: 提出了一种新的非负矩阵分解算法(NNMF).通过引入Bergman距离函数定义了非负矩阵分解算法的代价函数, 给出了迭代公式, 并证明了其收敛性.实验结果表明:在适当的条件下, 算法收敛速度较快; 解的精确度较高. 关键词: 非负矩阵分解; 辅助函数; Bergman距离函数; 归一化 中图分类号: O.24 文献标识码: A
非负矩阵分解(nonnegative matrix factorization, NMF)亦称近似非负矩阵分解.是目前国际上提出的一种新的矩阵分解方法[1], 它是一种在矩阵元素均为“非负”条件限制下的矩阵分解方法.该方法的问世引起了各个领域中的科学研究人员的广泛关注:一方面, 科学研究中的许多大规模的数据的分析方法需要通过矩阵的形式进行有效处理, 而NMF为人们处理大规模数据提供了一种新的途径; NMF算法相对于传统的一些矩阵分解算法, 具有实现上的简便性、分解形式和分解结果的可解释性, 以及占用的存储空间较小等诸多优点.
在算法上, NMF是一种低秩逼近算法, 它采用简单有效的乘性迭代公式, 很好地保持了数据的非负性.由于分解前后矩阵仅仅包含非负元素, 原数据矩阵中的列向量可以解释为对左矩阵(基矩阵)中所有列向量的加权和, 而权重系数是右矩阵(系数矩阵)对应列中的元素.这种基于基向量组合的表示形式具有直观的语义解释, 它反映了人的思维中局部构成整体的概念.
Lee和Seung曾在一篇关于无监督学习的文章[3]中独立地提出了非负矩阵分解的概念.他们研究了如下编码问题:假设矩阵W的每一列是固定的特征向量, h为需要进行编码处理的输入向量.目标是使得重构误差最小, 即
2
minv wh. (1)
h
利用对h的不同限制可以得到不同的迭代规则.为了寻找最佳的编码向量集, 他们对矩阵的逼近问题(1)进行了进一步的研究.其中V的每一列为观测数据, W的列远远小于V的列数.要求W和V的每一个元素都为非负, 同时要求W的每一列元素之和以及H的每一行元素之和为一.
1 非负矩阵分解的描述和数学实现形式
给定非负矩阵V∈\+, NMF算法寻找非负矩阵W∈\+和非负矩阵H∈\+, 得
n×m
n×r
r×m
V≈WH, (2)
___________________________
收稿日期:2007-11-05
作者简介:杨轩(1980-), 男, 汉族, 陕西汉中人, 陕西师范大学数学与信息科学学院硕士研究生. 基金项目:国家自然科学基金(60671063); 陕西省自然科学基金研究计划(2006A02)
2 Ap r . 2008 文章编号 : 1671- 3559( 2008) 02- 0193- 04 一种改进的非负矩阵分解算法廖 锋, 高兴宝, 杨轩 ( 陕西师范大学 数学与信息科学学院 , ...
非负矩阵分解:数学的奇... 3页 1下载券 矩阵的非负分解算法及应... 44...分解 结果施加 还 杨轩 ¨ 提出 了一 种基 于gmma a分布 的NMF算 法(N...
非负矩阵分解及其应用现状分析_IT/计算机_专业资料...1. 2 NM F算法 NM F的求解问题实际上是一个最...杨轩 [ 13 ] . 引入前者作为 [6] 目标函数使得...
非负矩阵分解 人脸识别 关键词 矩阵是数学中最重要...的原理用某种算法将一个矩阵分解成若干个矩 阵的...杨轩提出了一种基于gamma分布的NMF算法(GNMF),在此...
非负矩阵分解 人脸识别 关键词 矩阵是数学中最重要...的原理用某种算法将一个矩阵分解成若干个矩 阵的...杨轩提出了一种基于gamma分布的NMF算法(GNMF),在此...
热门文档