盲源分离ICAVIP免费

盲源分离一、引言起源：鸡尾酒会问题。从酒会嘈杂的人群中提取所关心对象的语言。“盲”源信号不可观测混合系统的特性事先不可知一、引言盲源分离(BlindSourceSeparation-BSS)：是指在不知源信号和传输通道的参数的情况下,根据输入源信号的统计特性,仅由观测信号恢复出源信号各个独立成分的过程。这一过程又称为独立分量分析(IndependentComponentAnalysis-ICA)。如果考虑到时间延迟对观测信号的影响，那么观测到的信号应该是源信号和通道的卷积，对卷积混迭信号进行盲分离通常被称为盲反卷积（BlindDeconvolusion）。二、数学模型盲源分离的数学模型盲源分离框图盲源分离的数学模型假设有M个独立的源信号Si(t),i=1...M，由其线性混合而成N个不再独立的观测信号X(t)，对于任何时间t：S是M维向量，X是N维向量，A是N×M混合矩阵盲源分离为题就是求解一分离矩阵W，使得通过它可以仅从观测信号x(t)来恢复出源信号s(t)。设y(t)为源信号的估计矢量，则有：二、数学模型盲反卷积系统的数学模型二、数学模型独立分量分析：利用源信号之间的统计独立性对源信号进行有效的估计。对观测信号及生成信号的假设约束:各源信号之间统计独立，即源信号的联合概率密度函数是各分量的边缘密度函数的连乘积。这是独立分量分析的前提和基本准则。观察信号数N大于或等于源信号数M，即N≥M。如为欠定盲分离类型，需要利用源信号的其他特征如稀疏性进行分离。源信号中至多只有一个高斯信源。源信号的各分量为零均值的平稳随机过程。源信号的各分量具有单位方差。二、数学模型（一）目标函数采用基于独立性测度的分离准则。非高斯最大化准则互信息极小化准则信息极大化极大似然准则三、分离算法（1）非高斯最大化准则根据大数定理，多个相互独立的随机变量之和趋向于高斯分布。因此，分离信号的非高斯性可以作为衡量是否成功分离的准则。常用的非高斯最大化准则有四阶累积量准则和基于负熵的准则两种。四阶累积量（峭度(kurtosis)）：定义代价函数为J(yi)=k4(yi)，则当yi为高斯分布时有J(yi)=0，通过J(yi)的最大化来完成分离。如果连续随机变量是高斯随机信号，其峭度为零。若是非高斯信号，当其峭度大于零(kurt>0)则为超高斯分布。当其峭度小于零(kurt<0)则为亚高斯分布。三、分离算法负熵：信息论中的“熵”是随机变量的随机性越大，熵就越大，高斯变量是所有等方差的随机变量中熵最大的。负熵是任意随机变量与高斯随机变量之间的相对熵，定义如下：三、分离算法J[p(y)]值越大表示它距离高斯分布越远，可用来作为非高斯性的度量。（2）互信息极小化准则（MinimizationofMutualInformation,MMI）当y中各分量统计独立时，互信息I(y)=0，互信息定义如下：假设可线性变换Y=BX，基于互信息最小化的目标函数为：三、分离算法将概率密度函数按级数展开后有信号的pdf较对称，k3值较小时三、分离算法（3）信息极大化准则（Infomax或ME(maximizationofentropy)）在输出y之后逐分量地引入一个非线性函数ri=gi(Yi)来代替对高阶统计量的估计。Infomax法的判据：在给定合适的gi(Yi)后，使输出r=[r1，r2，…，rM]的总熵量H(r)极大。三、分离算法和互信息极小化准则等价gi可采用某些单调增长函数(如:sigmoid函数、tanh(•)等)，只是信源的pdf需要一律是超高斯型，或一律是亚高斯型。（4）极大似然准则三、分离算法（二）优化算法常用方法：批处理算法、自适应算法、逐次提取法批处理成对数据旋转法（Jacobi法）及极大峰值法（Maxkurt法）特征矩阵的联合近似对角化(JointApproximateDiagonalizationofEigenmatrices,JADE)四阶盲辨识（FOBI法）自适应算法常规的随机梯度法自然梯度与相对梯度法扩展的Infomax法非线性PCA的自适应算法逐次提取法梯度算法固定点算法（Fixed-pointalgorithm）（三）快速独立分量分析（aFastalgorithmofIndependentComponentAnalysis,FastICA）。批处理+自适应结合的方法，比批处理甚至一部分自适应算法有更快的处理速度。目标函数的准则是“分离后数据的概率密度函数距离高斯分布最远”。三、分离算...