盲源分离一、引言起源：鸡尾酒会问题。从酒会嘈杂的人群中提取所关心对象的语言。“盲”源信号不可观测混合系统的特性事先不可知一、引言盲源分离(BlindSourceSeparation-BSS)：是指在不知源信号和传输通道的参数的情况下,根据输入源信号的统计特性,仅由观测信号恢复出源信号各个独立成分的过程。这一过程又称为独立分量分析(IndependentComponentAnalysis-ICA)。如果考虑到时间延迟对观测信号的影响，那么观测到的信号应该是源信号和通道的卷积，对卷积混迭信号进行盲分离通常被称为盲反卷积（BlindDeconvolusion）。二、数学模型盲源分离的数学模型盲源分离框图盲源分离的数学模型假设有M个独立的源信号Si(t),i=1...M，由其线性混合而成N个不再独立的观测信号X(t)，对于任何时间t：S是M维向量，X是N维向量，A是N×M混合矩阵盲源分离为题就是求解一分离矩阵W，使得通过它可以仅从观测信号x(t)来恢复出源信号s(t)。设y(t)为源信号的估计矢量，则有：二、数学模型盲反卷积系统的数学模型二、数学模型独立分量分析：利用源信号之间的统计独立性对源信号进行有效的估计。对观测信号及生成信号的假设约束:各源信号之间统计独立，即源信号的联合概率密度函数是各分量的边缘密度函数的连乘积。这是独立分量分析的前提和基本准则。观察信号数N大于或等于源信号数M，即N≥M。如为欠定盲分离类型，需要利用源信号的其他特征如稀疏性进行分离。源信号中至多只有一个高斯信源。源信号的各分量为零均值的平稳随机过程。源信号的各分量具有单位方差。二、数学模型（一）目标函数采用基于独立性测度的分离准则。非高斯最大化准则互信息极小化准则信息极大化极大似然准则三、分离算法（1）非高斯最大化准则根据大数定理，多个相互独立的随机变量之和趋向于高斯分布。因此，分离信号的非高斯性可以作为衡量是否成功分离的准则。常用的非高斯最大化准则有四阶累积量准则和基于负熵的准则两种。四阶累积量（峭度(kurtosis)）：定义代价函数为J(yi)=k4(yi)，则当yi为高斯分布时有J(yi)=0，通过J(yi)的最大化来完成分离。如果连续随机变量是高斯随机信号，其峭度为零。若是非高斯信号，当其峭度大于零(kurt>0)则为超高斯分布。当其峭度小于零(kurt<0)则为亚高斯分布。三、分离算法负熵：信息论中的“熵”是随机变量的随机性越大，熵就越大，高斯变量是所有等方差的随机变量中熵最大的。负熵是任意随机变量与高斯随机变量之间的相对熵，定义如下：三、分离算法J[p(y)]值越大表示它距离高斯分布越远，可用来作为非高斯性的度量。（2）互信息极小化准则（MinimizationofMutualInformation,MMI）当y中各分量统计独立时，互信息I(y)=0，互信息定义如下：假设可线性变换Y=BX，基于互信息最小化的目标函数为：三、分离算法将概率密度函数按级数展开后有信号的pdf较对称，k3值较小时三、分离算法（3）信息极大化准则（Infomax或ME(maximizationofentropy)）在输出y之后逐分量地引入一个非线性函数ri=gi(Yi)来代替对高阶统计量的估计。Infomax法的判据：在给定合适的gi(Yi)后，使输出r=[r1，r2，…，rM]的总熵量H(r)极大。三、分离算法和互信息极小化准则等价gi可采用某些单调增长函数(如:sigmoid函数、tanh(•)等)，只是信源的pdf需要一律是超高斯型，或一律是亚高斯型。（4）极大似然准则三、分离算法（二）优化算法常用方法：批处理算法、自适应算法、逐次提取法批处理成对数据旋转法（Jacobi法）及极大峰值法（Maxkurt法）特征矩阵的联合近似对角化(JointApproximateDiagonalizationofEigenmatrices,JADE)四阶盲辨识（FOBI法）自适应算法常规的随机梯度法自然梯度与相对梯度法扩展的Infomax法非线性PCA的自适应算法逐次提取法梯度算法固定点算法（Fixed-pointalgorithm）（三）快速独立分量分析（aFastalgorithmofIndependentComponentAnalysis,FastICA）。批处理+自适应结合的方法，比批处理甚至一部分自适应算法有更快的处理速度。目标函数的准则是“分离后数据的概率密度函数距离高斯分布最远”。三、分离算...
