📄 方向统计怎么做信号建模:从不变性到分布、学习与两个案例

英文题目:Directional Statistics in Signal Processing: A Geometry Driven Overview of Models, Learning, and Applications

评分:5.8/10 | 创新 1/2 | 技术严谨 1.2/1.5 | 实验充分 1/1.5 | 清晰度 0.8/1 | 影响力 0.5/1.5 | 开源 0/1.5 | 可复现 0.3/0.5 | 工程/实践 1/1.5

👥 作者与机构

  • Anders S. Olsen:机构信息未能在本次解析中与作者逐人可靠绑定
  • Kanti V. Mardia:机构信息未能在本次解析中与作者逐人可靠绑定
  • Dimitri Van De Ville:机构信息未能在本次解析中与作者逐人可靠绑定
  • Morten Mørup:机构信息未能在本次解析中与作者逐人可靠绑定

📌 核心摘要

需要处理的对象是相位、归一化向量、特征向量、子空间和协方差这类信号表示,它们的数值会因周期包裹、符号翻转、全局相位旋转、基旋转或尺度变化而改变,但物理含义不变,直接用欧氏平均和欧氏聚类会出现包裹断裂、符号割裂和质心不在样本空间的问题。论文把不变性抽象为圆、环面、球面、实与复投影空间、旋转群、Stiefel流形、Grassmann流形和正定矩阵锥等样本空间,再为每个空间配套单峰、各项异性、径向投影、环面包络和协方差生成五类分布,并给出几何感知K均值、混合模型和隐马尔可夫模型的学习流程。输入的多通道相位先去掉幅度并决定是否去掉公共载波相位,得到环面商空间或复投影向量,再经外积得到复相干、余弦相干、低秩子空间或主特征向量,分别交给环面模型、复角中心高斯分布、矩阵角中心高斯分布或投影空间模型估计状态。相对已有分散的定向统计用法,论文的差异在于按构造方式统一比较归一化常数代价,并引入低秩加各向同性结构和商环面聚类以兼顾高维可行性。在车内三说话人留存语音的留存场景评测中,以归一化互信息为指标,四个定向混合模型在K≥2时均高于复高斯模型,定向模型在K=3处取峰值而复高斯模型在K=4处取峰值,K=3时仅复高斯模型未能分辨位置2。结论适用于周期、对称和基不变明显的同步与阵列问题,但车内实验仅为单一固定几何与单个训练—留存场景,原文未披露训练、推理或部署成本。

🔗 开源与复现资源

可达状态仅表示本次链接检查结果,不代表许可证、本文权重或运行复现已验证。

🧭 深度解读

欧氏模型为什么会在相位与特征向量上出错

这篇综述要解决的是信号表示本身带有不变性时,直接用欧氏均值、方差与最小二乘会给出错误原型与不确定性的问题。输入可能是多通道相位、归一化方向、符号不确定的特征向量、相差全局相位的复波束向量、只关心张成空间的子空间基,或协方差矩阵。目标是找到与表示相容的样本空间,再选相容的分布或损失,使均值、聚类中心与离散度都落在同一空间里。

一个最简单的例子是 0 与 2π 的平均:算术平均得到 π,而圆上的真实中间方向应该回到 0 附近。论文用脑功能连接的例子把这个问题放大:对瞬时余弦相干矩阵取主特征向量做 LEiDA 状态发现时,每个特征向量模长为 1 且符号随机,如果先用多数元符号启发式翻转再做最小二乘 K 均值,会把自然的双峰从中间切开,质心也不在投影空间上。

下面这张图正是这个对照实验的直观起点,先看它如何用 3 通道球面点说明符号不变性,再理解为什么质心模长会偏离 1。

看图路径: 1. 先看 A 中两个状态的条形示意,确认同一状态有两个符号相反的版本;2. 再对比 B 与 C 球面上点的分裂方式与红叉三角质心的位置与模长标注;3. 注意 B 下方启发式说明与 C 下方流形假设说明的文字区别

原论文 Fig. 1:Comparison of clustering approaches for eigenvectors, which are defined only up to sign and scale.

论文图 1。原论文 Fig. 1::“Comparison of clustering approaches for eigenvectors, which are defined only up to sign and scale.”。

图中有 3 组球面点云:左下是带噪声的合成数据,中间 B 是最小二乘 K 均值的结果,右侧 C 是直径聚类的结果。B 把球面切掉一块,只在半球上聚类,下方两个质心条形模长分别为 0.98 与 0.75;C 保留完整球面并允许对径点等价,两个质心模长都是 1。可见几何不匹配首先改变的是质心是否合法,其次才是划分边界,这也是全文反复强调表示、分布与推断要一起考虑的原因。

哪些信号领域已经在用方向统计

在进入分布族之前,需要知道方向结构并不是脑成像特有的。声学中声源方位是圆或球面问题,短时傅里叶多通道向量按频点归一化并忽略全局相位后成为复投影对象;雷达声呐与无线通信中的 MUSIC 与 ESPRIT 子空间只关心张成空间,属于 Grassmann 流形;姿态估计关心旋转群 SO(3) 或对径认同后的四元数;图像梯度、表面法线、归一化嵌入多为球面或轴数据;扩散磁共振的纤维方向是符号不确定的轴,扩散张量与极化 SAR 协方差是正定或半正定矩阵。

这些应用共享的逻辑是:先识别什么变换不改变物理意义,再把样本空间定为商掉该变换后的流形,最后选尊重该不变性的模型。论文用一张应用地图总结这种跨领域复用,读者不必记住每个文献细节,只要抓住周期、归一化、符号、全局相位、基旋转、正定约束这几类不变性即可。

本文要回答的三个建模问题

第一是表示问题:观测到底生活在哪个样本空间。标量相位在圆上,多通道相位在环面上,定向单位向量在球面上,符号不确定的轴在实投影空间上,相差全局相位的复向量在复投影空间上,有序正交框架在 Stiefel 流形上,只关心子空间时在 Grassmann 流形上,协方差在对称正定锥或固定秩层上。

第二是分布问题:在同一空间上可以有不同随机构造,例如把高斯密度限制到流形上得到指数族,或把椭圆变量的径向丢掉得到投影分布,或把欧氏变量对 2π 取模得到卷绕分布。它们尊重同样的不变性,但密度形状与归一化子难度不同。

第三是学习问题:高维时归一化子可能没有闭式,需要数值积分、鞍点近似、全纯梯度或改用免归一化子目标;混合模型与隐马尔可夫模型还要反复求似然,初始化与低秩结构都会影响可行性。后文两个案例就是用来检验表示信息量、模型复杂度与 nuisance 处理如何共同影响状态发现。

从观测到不确定性的总体流程

论文提出的流程可以沿一个样本走一遍:先看信号对象有什么等价变换,例如 2 通道相位同时加同一角度不改变相位差;由此确定样本空间,例如把环面商掉公共相位得到商环面;再选该空间上的概率模型,例如环面图模型或复投影上的角中心高斯;最后用解析、期望最大化、自动微分或免归一化子方法估计参数,得到原型、离散度与状态后验。

这个流程的关键是信息取舍是显式的:去掉幅度、去掉公共相位、只取复相干的实部、只保留主特征向量或只保留子空间,每一步都产生不同的统计对象,需要不同的分布。下文先把样本空间与分布族讲清,再讲聚类与估计,最后回到脑与车两个完整链条。

样本空间:把不变性写成商空间

圆把相差 2π 整数倍的实数视为同一点,环面是 p 个圆的乘积,每个通道各自周期。球面是模长为 1 的实向量,少一个自由度;实投影空间再把对径点 x 与 -x 视为同一点,对应符号不确定的轴;复投影空间把相差全局相位 e^{iα} 的单位复向量视为同一点,对应波束向量一类对象。Stiefel 流形要求列正交归一且保留列顺序与方向,Grassmann 流形再商掉右乘正交矩阵,只保留子空间;正定锥要求对称且二次型非负,低秩层再固定秩。

\[\mathbb{T}^{p}=(\mathbb{S}^{1})^{p}\cong\mathbb{R}^{p}/(2\pi\mathbb{Z})^{p}.\]

上式是 p 维环面的定义,说明它是分量周期变量的自然空间。去掉公共相位后维度减一,这正是后文商环面聚类的几何来源。

\[\mathbb{RP}^{p-1}=\mathbb{S}^{p-1}/\{\pm 1\},\qquad\bm{x}\sim-\bm{x}.\]

上式是实投影空间的定义,把单位球面按正负认同,直接对应特征向量符号不确定性的处理方式。理解这两类商构造后,就能明白为什么公共相位有时是信号有时是 nuisance。

公共相位何时该去掉:两通道的例子

以 2 通道相位为例,如果关心的是两脑区是否同起同落,那么 2 通道同时从峰值走到谷值不应改变相干状态。相位网格上的对角线就是这类等价轨道,环面上是一条绕环的带,商掉之后只剩相对相位 θ2-θ1。

读这张图时先看相位网格的对角红带,再看它在环面上如何绕行,最后看商掉后如何压成 1 维圆环上的峰。

看图路径: 1. 先看左侧相位网格对角线红带与黑点、品红与蓝点的相对位置;2. 再看右上环面上沿环向的红带与两个色点的贴近程度;3. 最后看右下商环面上压缩成一维圆环后的红峰与两色点

原论文 Fig. 7:Removing common phase while preserving relative phase.

论文图 8。原论文 Fig. 7::“Removing common phase while preserving relative phase.”。

左侧相位网格横轴 θ1、纵轴 θ2 都是 0 到 2π,对角红带表示公共相位变化而相对相位不变的轨道,黑色点与品红蓝点标出同一轨道的不同位置;右上环面上红带沿环向延伸,品红与蓝点几乎重合;右下商环面把整条轨道压成圆环右侧的一个红峰,两色点落在峰附近。可见商操作丢掉的是公共位置,留下的是对齐程度,这解释了为什么静息态类连续振荡数据需要商环面或投影表示,而锁时刺激数据可能需要保留绝对相位。

环面 × 商环面 × 复投影空间: 环面指每个通道相位各自周期,保留绝对相位和相位差;商环面把整体公共相位旋转视为同一状态,只保留相对相位;复投影空间把归一化复向量相差一个全局相位视为同一点,它包含等幅的环面子集,但支持更大,计算上可使用复角中心高斯等显式归一化子分布。三者分工是保留多少相位信息与容忍哪种 nuisance 变换,组合起来可以在保持相对相干的同时换到易估计的模型。

线性集中模型:从圆到球面再到投影与框架

最简单的分布族只用 1 阶方向或迹统计量描述向一个原型集中。标量相位的 von Mises 分布用 cos(θ-μ) 加权,球面的 von Mises-Fisher 分布用 μ⊤x 加权,投影空间的 Watson 分布用 |μHx|² 加权,Stiefel 与 SO(3) 上的矩阵 Fisher 分布用 tr(F⊤X) 加权。它们都是旋转对称的,集中参数越大越集中,均匀分布是其极限。

\[f_{\operatorname{vM}}(\theta\mid\mu,\kappa)=\frac{1}{C_{\operatorname{vM}}(\kappa)}\exp\left\{\kappa\cos(\theta-\mu)\right\}.\]

上式是 von Mises 密度,分子是指数集中项,分母是含零阶修正贝塞尔函数的归一化子。von Mises-Fisher 与 Watson 只是把内积换成球面内积或投影不变量,归一化子换成相应超几何函数。矩阵情形的归一化子涉及矩阵变元超几何函数,在高维或高集中时变贵,这是后文用投影分布替代指数族的动机之一。

von Mises 分布 × von Mises-Fisher 分布 × Watson 分布: von Mises 分布处理标量圆相位的单峰集中,von Mises-Fisher 分布处理球面上已定向单位向量的旋转对称集中,Watson 分布处理实或复投影空间上轴数据的集中,对符号或全局相位不变。三者都是线性或迹统计量的旋转对称模型,区别只在样本空间与不变性,分别对应相位、方向和轴。

二次各向异性与投影构造:形状不同代价不同

当离散在不同方向上不同时,需要二次项。球面的 Fisher-Bingham 分布同时有线性项与二次项,投影空间的 Bingham 分布用 Hermitian 二次型允许轴向各向异性,Grassmann 的矩阵 Bingham 用 tr(U⊤AU) 只依赖子空间。它们的归一化子一般没有通用超几何级数,需要鞍点、数值积分或全纯梯度方法。

另一条路线是径向投影:把高斯变量的模长或基丢掉。投影正态保留均值与协方差但有显式积分形式,零均值时得到角中心高斯及其矩阵版本 MACG,分别对应 Bingham 与矩阵 Bingham 的计算友好替代。两者样本空间相同但随机假设不同,密度形状也不同,不能只看名字互换。椭圆对称角高斯则是在投影正态上加约束,使等值线在均值方向周围呈椭圆。

Bingham 分布 × 角中心高斯分布 × Fisher-Bingham 分布: Bingham 分布是投影空间上的二次型指数族,允许各向异性轴集中但归一化子是矩阵变元超几何函数;角中心高斯分布是把零均值椭圆变量做径向投影得到,同样尊重投影不变性但只有行列式与二次型,估计便宜;Fisher-Bingham 分布是球面版本,同时有线性项与二次项。三者说明同一样本空间可以有不同随机构造,拟合与计算代价不同。

环面与协方差模型:配分函数与生成假设

环面模型还可以用卷绕得到,例如把高斯变量对 2π 取模得到卷绕正态,其密度是无穷求和,高维时随 (2M+1)^p 膨胀。成对环面图模型用相位差与相位和的充分统计量刻画通道耦合,但配分函数一般无有限闭式;单因子 von Mises copula 给出显式归一化,但离对角相关被限制为一因子形式。 toroidal 投影正态用潜高斯半径增广来避开环面配分函数,对混合建模较友好。

协方差矩阵则由 Wishart 分布刻画,它来自高斯采样的生成构造,有闭式归一化子;低秩情形用奇异 Wishart,其谱分解把特征值信息与特征空间信息分开。丢掉特征值就得到 Grassmann 表示,只留主特征向量就得到投影表示,这正是脑案例中多种表示的来源。理解生成假设很重要:同样满足对称正定约束的对象,若不是来自协方差采样,就不一定适合 Wishart。

无监督状态发现与参数估计怎么做

几何感知 K 均值只要求差异度与质心函数:圆与环面用弦距离加分量圆均值,球面用 1-μ⊤x 加归一化均值,投影空间用 1-|μHx|² 加外积和的主特征向量,Stiefel 用弦距离加极分解,Grassmann 用投影距离加外积和的前 q 个特征向量,正定矩阵可用对数欧氏距离。商环面没有一般闭式均值,可交替做全局相位对齐与分量圆平均;没有均值时可用 K 中心点,只需两两差异度。

混合模型把观测写成 K 个分量密度的加权和,给出软后验与密度;隐马尔可夫模型再加转移矩阵刻画持续与切换。估计可用期望最大化交替更新后验与加权极大似然,也可用 PyTorch 自动微分直接优化负对数似然,方向参数用归一化、浓度用 softplus、正定矩阵用低秩构造来保证约束。初始化常用 K 均值++、混合质心初始化混合、混合后验初始化隐马尔可夫模型,并可用 50% 留出或交叉验证选 K 与秩。

当归一化子不可用时,得分匹配只用流形梯度与 Laplace-Beltrami 算子,噪声对比估计把密度估计转成与已知噪声的分类,低秩加各向同性把矩阵写成 η(MMH+I) 并用 Woodbury 与行列式引理加速。工具方面论文提供 PCMM 工具箱,支持多种分布的混合与隐马尔可夫模型,EM 仅用于部分模型,其余用自动微分,作者资源当前可用。

几何感知 K 均值 × 混合模型 × 隐马尔可夫模型: 几何感知 K 均值只用相容的差异度与均值函数做硬划分,不算归一化子;混合模型假设观测来自若干分量分布之一,给出软后验、离散度与密度;隐马尔可夫模型在混合的发射分布上再加一阶状态转移,刻画持续与切换。三者共享同一样本空间与距离或似然思想,区别在是否要不确定性与时间结构,代价依次升高。

得分匹配 × 噪声对比估计 × 低秩加各向同性参数化: 得分匹配估计对数密度的梯度而避开归一化子,噪声对比估计把密度估计转成与已知噪声的分类问题,低秩加各向同性参数化把高维协方差型矩阵写成小秩偏离加单位阵以减少参数。三者都是为了解决高维时归一化子贵或参数多的问题,前两者改目标函数,后者改参数结构,可与自动微分结合使用。

拟合时间与合成基准是如何设置的

为说明计算代价,论文对每个分布族生成合成数据并用 PyTorch 的 ADAM 优化对数似然,学习率 0.1,单线程,连续 25 次迭代提升不足 1e-5/N 即停。矩阵分布取 q=2 列,矩阵 Fisher 类用 2 阶鞍点近似,Bingham 与 Fisher-Bingham 用数值积分,von Mises 与 Watson 用特殊函数,其余用显式归一化子。作者提醒这只是启发式比较,因为归一化子实现与参数量不同。

合成脑相位基准分定时与振荡两种条件,每种再分各向同性与各向异性噪声,共 4 个面板。每条件从两个潜状态各抽 nr=75 个 6 通道相位向量,状态均值对比强烈,一个同步一个均匀散开;振荡条件再加公共旋转载波相位并使扰动时间相关。拟合时统一用两分量混合或 K 均值,用归一化互信息评价恢复。脑 fMRI 与车内语音则是真实任务标签与已知声源位置的外部参考,但都只在评价时使用。

实验样本与维度关键设置
分布拟合耗时n=400 每个族,p 为 4,8,16,32,64,矩阵取 q=2ADAM 学习率 0.1,单线程,早停阈值 1e-5/N

此表比较 3 个实验的可比条件与代价来源,指标方向是拟合时间越短越好,NMI 越高越好,但不同样本空间的似然不可比。结果表明显式归一化子的族最快,矩阵变元与卷绕求和最贵;车实验的时长与频点说明它是在固定几何与固定对话脚本下的描述性比较,不是总体人群推断。

拟合时间与合成恢复的主要结果

拟合时间上,von Mises-Fisher、角中心高斯与 MACG 因归一化子简单最快,Watson、Bingham 与 Fisher-Bingham 次之,矩阵 Fisher、矩阵 Bingham 与矩阵 Fisher-Bingham 在中等维度就很贵,卷绕正态因缠绕求和在 p=8 已超 100 秒。除卷绕正态外,高集中数据都比低集中更慢,且维度升高普遍变慢,向量分布比矩阵分布更明显。混合模型中若单分量单次迭代就需数秒,则整体不可接受,这就是推荐角中心高斯替代 Bingham、MACG 替代矩阵 Bingham 的计算理由。

合成恢复上,定时条件下环面模型最好,复投影紧随其后,余弦相干模型稍差,忽略几何的最小二乘主向量方法最差;各向异性数据中能建模秩结构的方法优于秩 1 与 K 均值。振荡条件下普通环面与卷绕正态完全失效,而商环面 K 均值、商卷绕正态、均匀边际 copula 与复投影模型最好,说明几何正确还不够,必须把公共相位当 nuisance 商掉。3 个结论是:不变性取舍取决于科学问题,样本空间越接近数据生成空间越好,模型复杂度应匹配数据的秩结构。

案例固定条件恢复峰值与优胜者
合成 6 通道两状态每状态 nr=75,p=6,K=2环面最优,复投影次优;振荡时普通环面失效,商环面与复投影最优
车内三声源5 座 3 占据位,K=1 到 5方向族在 K=3 峰值,复高斯在 K=4 峰值且 K=3 漏掉位置 2

此表比较同一任务下不同表示与分布的恢复能力,公平条件是同数据同 K 与同评价 NMI,NMI 越高表示状态划分与真值或任务标签越一致。脑案例中复数正态略差说明幅度信息不如相位有用,MACG 接近最优说明余弦已含足够任务信息而奇异 Wishart 建模特征值反而未带来增益;车案例中方向族峰值恰在真实占据数,而欧氏高斯把容量花在能量变化上。未胜出项是最小二乘主向量与普通环面在振荡条件下的失败,它们提示忽略符号或公共相位会直接改变结论。

去掉哪部分信息会怎样:幅度公共相位与谱信息

论文的消融不是删网络层,而是删表示中的信息。脑链条是:去幅度得到相位向量,去公共相位得到商环面或投影类,取外积得 Hermitian 相干,取实部得余弦相干,再取值域得 Grassmann 点或只取主特征向量得投影点。每步都丢掉一部分变化:幅度、公共位置、虚部正负方向、特征值加权、次模式。

结果显示信息量与模型能力要匹配:保留更多信息不一定更好,MACG 比奇异 Wishart 好说明在样本有限时为标量离散度建模反而增加负担;只留主特征向量的 LEiDA 类方法在合成与 fMRI 都靠后,说明次模式与各向异性对方位区分有用。车链条是按频点归一化去能量并把全局相位视为等价,方向族因此把容量留给空间结构,而复高斯同时拟合能量变化导致在 K=3 时把两个分量放在位置 3 附近。这些对照支持表示选择本身就是建模假设。

结论成立的条件与不能推广之处

合成结论只在 6 通道两状态、nr=75、五档噪声与两种噪声结构的范围内成立,NMI 图例按曲线下面积排序,面积大不代表每个噪声点都显著。脑结论固定 K=7 且任务标签只用于评价,NMI 衡量的是无监督状态与实验条件的对齐,不是潜脑状态的恢复率;同一任务可含多个相干状态,留出被试 99 人的结果不能直接推广到其他 parcellation 或预处理。

车结论来自一个固定车厢几何、固定对话脚本与不相交话语的 45 s 训练与 30 s 留出,约 90% 单人、8% 双人、2% 3 人同时说话,STFT 帧重叠不能视为独立重复,NMI 数值是该场景的描述性比较。拟合时间比较是异构实现下的启发式 benchmark,未对齐拟合优度与停止准则,高集中更慢的程度也与近似方法有关。未评测的范围包括时序隐马尔可夫的增益、高秩 vine copula 的实际可用性,以及得分匹配在混合与高维环面图中的效率,这些都还是待验证。

复现第一步做什么:数据表示与工具

复现应从表示开始:脑数据先窄带滤波加 Hilbert 变换得解析信号,取相位并构造 z(t)=1/√p exp{iθ(t)},再决定是保留环面、商掉公共相位,还是转到复投影或余弦相干;车数据先算短时傅里叶,按频点归一化能量并把全局相位视为等价,转到复投影。分布选择上先用显式归一化子的角中心高斯或 MACG 跑通,再试 Watson、Bingham 与环面模型,避免一开始就陷入矩阵变元超几何函数的调参。

论文的 PCMM 工具箱在 https://github.com/anders-s-olsen/PCMM 提供对数密度、混合与隐马尔可夫前向、多种 K 均值与 EM 或自动微分估计,第三方链接只证明论文提到该地址,不证明已开源以外的保证。复现时固定随机种子与 K、秩、学习率与早停阈值,NMI 用附录的软硬责任矩阵定义,注意 NMI 对称且只衡量划分一致,不衡量原型方向误差。关键超参数是状态数 K 与低秩维数 r,以及是否商掉公共相位,这一选择要在拟合前由科学问题决定。

什么时候值得尝试方向统计

当观测有明确的等价变换且欧氏平均给出非法原型时值得尝试:相位包络处出现间断、特征向量符号随机导致质心模长偏离 1、波束向量全局相位任意、子空间基旋转不改变张成、协方差出现非正定平均。此时先定样本空间,再选相容的差异度或分布,最后选与维度与集中度匹配的推断:小维可用指数族与数值积分,高维优先用角中心高斯、MACG 或低秩加各向同性,归一化子不可用时考虑得分匹配或噪声对比估计。

还需要补的验证是:在自己的数据上做留出似然或任务指标的 K 与秩选择,给出未胜出基线的完整对比,并报告拟合时间与初始化稳定性。本文的价值不是证明方向模型处处更优,而是把表示、不变性、不确定性与计算放在同一个决策里,使每一次信息丢弃都有显式的统计对象与代价。

📎 论文与评分元数据

排名:前50% | 文档类型:综述 | arXiv 原文

⚖️ 评分明细

评分属于系统判断,不是论文实验结果;八维数值与总分见页首,原始审计记录保留在后端。

  • 评分规则:type-aware-v1

  • 评分模型:muse-spark-1.3-contributor

  • 评分请求协议:openai_responses


← 返回 2026-11-04 语音/音乐/音频论文速递