📄 互补才有意义时，如何分配发送符号：SC-DJSCC 解读
英文题目：Synergy-Aware Symbol Allocation for Distributed Semantic Communication
评分：6.1/10 | 创新 1.3/2 | 技术严谨 1.2/1.5 | 实验充分 1.2/1.5 | 清晰度 0.8/1 | 影响力 0.3/1.5 | 开源 0/1.5 | 可复现 0.3/0.5 | 工程/实践 1/1.5
👥 作者与机构
- Fan Gao：机构信息未能在本次解析中与作者逐人可靠绑定
- Youzheng Wang：机构信息未能在本次解析中与作者逐人可靠绑定
- Zhijin Qin：机构信息未能在本次解析中与作者逐人可靠绑定
- Xiaoming Tao：机构信息未能在本次解析中与作者逐人可靠绑定
📌 核心摘要
分布式语义通信要让空间分离的两个终端各自独立编码、再由融合接收端完成同一推理任务，每个终端只看到局部视图，完整语义只有在两侧消息同时到达接收端后才出现。在上行符号预算收紧时，按终端单独计算率失真代价的压缩会优先保留单端已有判别力的坐标，而把必须联合才有效的互补坐标提前关闭。论文提出的SC-DJSCC在训练目标中增加一项作用在均衡后消息上的协同奖励，用它补偿同时保留一对互补符号的代价，并把奖励梯度回传到本地符号门控。均衡后消息构造高斯Gram矩阵，再用二阶矩阵Rényi熵计算联合相对边缘与标签的交互超额，得到0到1的有界奖励；符号门控用hard-concrete松弛计入率代价，部署时冻结为二进制掩码并移除奖励分支。与按终端压缩的可变长深度联合信源信道编码和分布式信息瓶颈方法不同，该奖励在均衡后计算并直接作用于占用信道使用的门控，因而与链路可靠性耦合。在AWGN 0 dB下，以92%准确率为目标时AV-MNIST所需负载符号从对照的54.1降到38.7，节省28.4%，以82%宏F1为目标时PAMAP2从45.8降到30.7，节省32.9%；在40个负载符号且不重训的3GPP TDL-C衰落下，相对门控对照的增益从9 dB的3.0个百分点扩大到-6 dB的6.2个百分点。该结论只在两终端上述信道设置下实测成立，单类别批次奖励置零且链路恶化拉低保留阈值时互补符号仍可能被剪除，三端以上只有阈值公式而无实验；部署成本与门控基线相同，原文报告为0.42 M参数、12.8 MMACs和RTX 4090上0.41 ms的单样本延迟。
🔗 开源与复现资源
本次未形成可展示的已核验资源记录，开放状态尚未核实。
可达状态仅表示本次链接检查结果，不代表许可证、本文权重或运行复现已验证。
🧭 深度解读
分布式协同推理要传什么
本文研究的场景是有两个空间分开的终端，各自只看到任务的一部分。例如一个终端看图像、另一个终端听音频，或者一个终端戴手腕惯性传感器、另一个终端戴胸与脚踝传感器，接收端要把两路被无线信道损坏的消息合起来判断类别。训练时可以把成对观测与标签集中放在一起，部署时每个终端只能用自己的观测独立编码，终端之间不通信。
按部分信息分解的说法，多终端观测中既有冗余和独特信息，也有协同信息。协同信息的特点是单看任何一个终端都几乎不降低标签不确定性，合起来才决定标签。论文用奇偶校验举例：标签是两个独立公平比特的异或，每个比特单独与标签独立，合起来完全决定标签。这类特征需要多个终端同时传，且单终端价值很小，在上行预算紧张时最容易被压缩掉。
协同信息 × 冗余信息 × 独特信息： 冗余信息指任一终端单独看也能得到的任务证据，独特信息指只有某个终端能提供的证据，协同信息指单独看任一终端都得不到、必须把多个终端合起来才能显现的证据；本文要解决的正是协同信息在逐终端计费下被提前剪掉的问题，三者分工不同，压缩时不能只按单终端边际价值排序。
给新生的阅读顺序建议
建议先读奇偶校验例子理解协同，再看选择门限公式理解为何两符号代价需要奖励补偿，接着沿样本走编码到均衡再到融合的主路径，最后看奖励矩阵如何算超额并把梯度送回门。实验先看受控门限复现，再看任务符号曲线与衰落鲁棒性，注意每处数字的目标、条件与聚合方式。
普通概念用自然中文即可，score 在本篇按对数密度对输入的梯度理解不直接使用，FID 与 patch FID 等图像指标本篇未用，不必套用到符号选择。判别器等分类判别概念本篇未设，价值评估模型与辅助分数模型等角色也不适用，保持原文称呼即可。
已有压缩为什么留不住互补特征
已有路线一是可变长深度联合信源信道编码与分布式信息瓶颈方法，它们在每个终端本地加一项速率惩罚，按单终端的率失真权衡决定保留哪些维度。即使加上选择重传、子集充分性约束或终端间正交正则，这些方法仍是在边际上评价本地表示，没有在融合处奖励互补证据。
另一路是多模态交互的信息论模型，它们讨论无噪声隐空间中的协同与冗余，但没有把均衡后的协同回报与物理符号门连起来。也就是说，前者管了信道与符号代价却不管协同，后者讨论了协同却不管信道损坏后伙伴符号是否还在。本文的工作位置正在两者之间：既要计符号代价与信道损伤，又要在融合处给协同加分。
分布式联合信源信道编码 × 信息瓶颈： 分布式联合信源信道编码指编码器直接把观测映射为复基带符号并经噪声信道传输、接收端联合译码做任务，信息瓶颈指在保留任务相关性的同时压缩传输速率；本文把两者结合，按任务损失加每终端符号数计费，再额外加一项协同奖励来纠正瓶颈目标对互补坐标的低估。
互补坐标的选择门限问题
论文先用一个可解析的坐标选择模型把问题写清楚。每个保留的坐标占一次信道使用，目标是最大化接收对的任务互信息，同时按总符号数计费，再加一项只在互补对同时保留时才有的奖励。
\[\mathcal{J}=-I(Y;U_{1},U_{2})+\beta(k_{1}+k_{2})-\lambda S,\]其中第一项是接收对关于标签的互信息，第二项是两终端符号数之和乘以资源权重，第三项是互补对保留时的奖励强度。权重越大越舍不得用符号，奖励越大越愿意为互补对付两个符号的代价。
在两个终端经独立二进制对称信道传输奇偶比特的假设下，接收对提供的任务信息量有闭式，而任一单路提供零信息。
\[J(e_{1},e_{2})=1-H_{\rm b}(e_{1}+e_{2}-2e_{1}e_{2})\]这里交叉概率是两路恰一路翻转的概率，二进制熵越大则有效信息越小。比较空集、只留一路、两路全留 4 种掩码的目标值，得到全留严格更优的条件。
\[\beta<\frac{J(e_{1},e_{2})+\lambda\kappa}{2}.\]无奖励时无噪声奇偶校验只在资源权重小于 1/2 时保留，而共享比特只需小于 1，因为前者要付两个符号。这个 1/K 衰减可推广到 K 个终端，终端越多互补证据越难留下。校准后的奖励把两终端门限抬到 0.91，信道变差则有效信息下降，门限随之下降，链路可靠性就这样进入符号选择。
训练加奖励、部署不加开销的总体流程
SC-DJSCC 的总体做法是本地门控加训练期融合奖励。每个终端把观测编码为候选复符号向量，再乘二值掩码并做功率归一化，只发送打开的位置。接收端对两路分别均衡，再用联合任务译码器输出类别分布。训练时另有一条虚线分支：从均衡后消息与标签构造格拉姆矩阵，算出有界奖励，连同任务损失与符号计费一起更新编码器、门与译码器。
部署时奖励分支与标签都不需要，二值掩码冻结，每个终端独立编码，无需终端间信令，推理计算量与同符号数的门控主干相同。下面先沿样本走一遍主路径，再讲奖励分支如何影响门。
以下读图说明对应系统框图，重点是区分推理实线与训练虚线，以及奖励分支在部署时被移除这一点。
看图路径： 1. 先沿上方实线看两路从观测到编码、选符号、过信道均衡再到联合译码的主路径；2. 再看下方虚线训练分支从均衡后消息与标签形成矩阵并算出奖励的位置；3. 注意虚线梯度回到编码器、门与译码器，而部署时该分支被拿掉
论文图 1。原论文 Fig. 1:：“SC-DJSCC with independent deployment terminals and a joint training objective.”。
该图确实可见上下两条独立终端路径，各自经过编码器与掩码加归一化，再经正交上行信道与均衡得到均衡后消息，一起进入联合任务译码器得到判决；下方训练分支从均衡后消息与标签形成矩阵并算出奖励，再与任务损失和符号计费组成目标，梯度虚线回到编码器与门。这帮助理解为何部署零开销：虚线只在训练存在。
编码、选符号与功率归一化如何执行
沿一个样本看，终端 m 先把观测编码为长度为 Lm 的候选复向量，实部虚部对应同相与正交分量。再乘二值掩码，只保留打开的分量，关闭的位置不是发零，而是不占用信道使用。发送信号按打开个数做功率归一化，保证每终端能量与打开数成正比；若掩码全零则发送零向量。接收端按事先约定的位置把收到的条目放回，再融合。
掩码本身是与样本无关的，每个位置学一个对数几率，用 hard-concrete 松弛使其可微。训练时用可微的有效计数代替整数计数做归一化，部署时把拉伸门按 1/2 阈值二值化，再按整数计数执行功率归一化。每个资源权重对应单独训练的一个工作点，掩码按工作点一次性告知。
符号门 × 有效符号数： 符号门指每个候选复符号上学一个开或关的二值掩码，有效符号数指门打开个数的期望求和，也是优化目标中的计费项；门决定哪一维真正占用信道，计费项按打开个数惩罚，协同奖励的梯度再流回门的对数几率，保留直接任务梯度小但联合价值大的维度。
均衡后奖励如何算出超可加部分
奖励分支处理的对象是均衡后消息。对一批样本，把每终端均衡后的复特征实数化，再用高斯核算两两相似度得到格拉姆矩阵，除以迹使迹为 1。标签矩阵是同类为 1、异类为 0 再除以批量大小。联合关系用归一化逐元乘积表示，相当于把两终端的相似结构融合为联合相似结构。
高斯核矩阵的构造方式如下，带宽按批次中值分离后固定，避免尺度操纵。
\[[G_{m}]_{ij}=\exp\!\left(-\frac{\lVert u_{m,i}-u_{m,j}\rVert_{2}^{2}}{2\omega_{m}^{2}}\right),\quad A_{m}=G_{m}/\operatorname{tr}G_{m}.\]在此基础上用矩阵 Rényi 熵定义关联，再用联合关联减去两个单路关联得到交互超额。
\[\Delta_{\alpha}=I_{\alpha}(A_{12};A_{Y})-I_{\alpha}(A_{1};A_{Y})-I_{\alpha}(A_{2};A_{Y}).\]若超额为正则它反映联合才有的任务证据，若为负则经截断取零，再除以标签熵归一化并截断到 0 到 1 之间。论文明确说明它不是部分信息分解中的纯协同，当强冗余使超额非正时奖励为零，但冗余特征已有充分的单终端任务梯度，不需要补偿；奖励只针对超额为正的协同主导情形。计算取 2 阶，用 Frobenius 范数代替特征分解，复杂度随批量平方增长。
均衡后消息 × 格拉姆矩阵 × 矩阵 Rényi 协同奖励： 均衡后消息指接收端经信道估计与 LMMSE 均衡恢复的每终端特征，格拉姆矩阵指同批次样本两两高斯核相似度构成的矩阵，矩阵 Rényi 协同奖励指用这类矩阵算出的联合与标签的关联减去各自与标签关联后的超可加剩余；它在均衡后计算，因而只有真正熬过衰落和均衡的互补证据才能得分，梯度再指导发送端重排符号。
三项损失如何联合训练门与编码器
训练目标是任务负对数似然加符号期望数计费，再减去协同奖励。任务项希望保留有用特征，计费项希望关门省符号，奖励项希望在均衡后保留联合才有的类别可分性。3 阶段训练先做任务预热，再逐渐增大资源权重且奖励系数为零，最后加入完整目标联合优化。
对门对数几率求导，任务梯度与奖励梯度经信道、功率归一化与编码器传回，计费梯度是打开概率与其补的乘积。只有当直接回报或互补回报超过符号代价时，符号才被留下。因为奖励依赖两终端融合矩阵，若任一终端丢掉伙伴坐标，奖励梯度消失，这就迫使两端同时保留互补对。原文未披露逐层维度与全部更新细节，复现时只能按给出的批量、学习率与门参数执行，不补猜实现。
数据、信道与比较方法如何对齐
实验用两个分布式多模态基准。AV-MNIST 把图像与音频放在不同终端，报告 10 类准确率，用类 LeNet 编码器加复基带投影。PAMAP2 把手腕惯性传感器放一端、胸与脚踝放另一端，用 1 维卷积编码器，在 12 类活动上报告宏 F1；按被试划分训练验证测试，窗长与重叠固定，源标量总数与窗口数按原文给出。所有方案共享两层融合译码器、归一化与成对信道实现，按预算单独训练并报告 3 个随机种子的均值与标准差。
信道分两类：主任务符号曲线在 0 dB 加性高斯白噪声下比较；多径评估复用已训掩码与权重不再重训，在 3GPP TDL-C 衰落下用 128 子载波正交频分复用、梳状导频最小均方误差信道估计测试。导频与循环前缀开销各方案相同，只比有效载荷符号。比较对象包括固定均分符号的深度联合信源信道编码、无奖励的同门控对照、任务感知分布式信息瓶颈与带正交惩罚的任务导向方法。
有效载荷符号数 × 信道带宽比： 有效载荷符号数指真正承载语义的复符号个数，不含导频与循环前缀开销，信道带宽比指它与预处理后实数源标量总数的比值；本文比较公平性的基础是导频开销各方案相同，只比有效载荷符号，带宽比越小说明压缩越狠。
奖励能否跟踪已知协同比例并复现门限
先在受控源上验证机制。在混合共享分量与奇偶分量的 32 坐标源上，已知联合才有用的比例从 0 变到 1 时，奖励从 0.02 单调升到 0.82，15 次试验的 Spearman 相关为 0.98。比例为 0 时联合关联可被边际关联解释，超额非正被截断；比例增大时联合矩阵只在两视图合起来才与标签对齐，产生与比例成正比的超额。
在纯奇偶校验上增大资源权重，准确率会在门限处跌到随机水平。无奖励对照在权重约 0.50 后守不住门，因为关掉任一门都会破坏奇偶统计，单靠任务梯度抵不过计费梯度；加入奖励后保留悬崖移到约 0.90，与理论值 0.91 吻合。以下读图说明对应校准与选择两面板，重点看单调性与悬崖位置。
看图路径： 1. 看左图奖励随已知联合占比变化是否单调上升；2. 看右图无奖励与有奖励两条准确率曲线下跌的位置有何不同；3. 对照 0.50 与 0.91 两条竖线理解门限移动
论文图 3。原论文 Fig. 3:：“Controlled mechanism verification over three random seeds.”。
该图左面板确实可见奖励随联合占比上升的单调曲线，右面板可见有奖励曲线在更大资源权重处才下跌，且下跌位置靠近 0.91 竖线而无奖励曲线靠近 0.50 竖线。这支持奖励恢复解析门限的判断，但条件是受控二进制源与已知比例，尚不能直接推广到真实多模态。
任务符号曲线上省了多少符号
在预算充足时有无奖励都保留两类特征，差别不大；预算收紧时门按单终端边际梯度从小到大剪枝，互补特征因需两路同时传、单符号回报减半而先被剪掉。任务感知瓶颈偏向单终端自足特征，正交惩罚不区分任务相关协同与任务无关差异，因而在紧预算下也退化。以标签为条件的均衡后超额只保护联合核结构能分开类别的坐标，在 40 个 AV-MNIST 符号处带来 3.6 个百分点峰值增益，在 32 个 PAMAP2 符号处带来 6.3 个百分点峰值增益。
以下读图说明对应两数据集的任务符号曲线，重点是在目标水平线处比较达到同样质量所需的符号数。
看图路径： 1. 看横轴为发送复符号数、纵轴为准确率或宏 F1 的任务符号曲线；2. 比较同一符号数下虚线方法与其他基线的高低；3. 注意水平目标线与箭头标注的节省符号含义
论文图 4。原论文 Fig. 4:：“AWGN task–symbol curves at 0 dB (mean and standard deviation over three random seeds).”。
该图确实可见 SC-DJSCC 虚线在多数符号数下位于其他基线之上，水平线标出 92% 准确率与 82% 宏 F1 目标，箭头标出相对门控对照的符号节省。这说明节省来自跨终端重平衡：辅助模态在无奖励时分得过少，有奖励后两端分配更均衡，融合相对最佳单终端的增益明显变大。
下表比较在固定目标质量下达到目标所需的平均有效载荷符号数，比较双方是 SC-DJSCC 与同门控无奖励对照，条件是 0 dB 加性高斯白噪声、均值曲线分段线性插值，符号越少越好，节省比例越高越好。
| 数据集与目标 | 对照所需符号 | 本方法所需符号 | 节省比例 |
|---|---|---|---|
| AV-MNIST，92% 准确率 | 54.1 | 38.7 | 28.4% |
| PAMAP2，82% 宏 F1 | 45.8 | 30.7 | 32.9% |
该表显示在上述目标与插值口径下，本方法比对照少用约 15 个符号，离散预算上分别在 40 与 32 符号达标而对照需 56 与 48 符号，固定均分方法在 AV-MNIST 需 64 符号、在 PAMAP2 未达标。限制是这是均值曲线插值结果，依赖目标线选择与 3 个种子的平均，未给出每种子的分布与显著性，且每个预算点需单独训练门。
奖励放在信道前后与是否调门有何差别
消融比较 3 个关键做法。在 0 dB 与 40 复符号下，无交互奖励的准确率最低；把奖励算在信道前无噪声编码输出上，门会保留源端互补但经噪声后回报已下降的坐标；固定均匀掩码只让奖励调编码器权重而不重分符号，三者都不如均衡后奖励加可调门。部署成本方面，拿掉奖励分支后与同符号数门控主干相同，原文报告为 0.42 M 参数、12.8 MMACs、单样本延迟 0.41 ms。
以下读图说明对应 TDL-C 衰落下不同信噪比的零样本测试，固定 40 个有效载荷符号且不重训，重点看低信噪比端差距是否更大。
看图路径： 1. 看横轴信噪比从低到高、纵轴准确率的变化趋势；2. 比较两条曲线在低信噪比端的差距是否大于高信噪比端
论文图 5。原论文 Fig. 5:：“AV-MNIST under TDL-C fading with comb-pilot LMMSE channel estimation at 40 payload symbols without retraining.”。
该图确实可见两条准确率曲线都随信噪比上升而上升，且本方法全程在上，低信噪比端差距更大。机制解释是可变信噪比训练要求样本对在两终端同时保持类内相似，梯度把互补线索压进抗衰落的大间隔子空间，而均衡残余噪声在低信噪比下更重，对照更易丢互补坐标。
下表比较零样本 TDL-C 衰落下本方法相对门控对照的准确率增益，条件是 40 个有效载荷符号、梳状导频信道估计、不重训，增益以百分点计，越大越好。当前表只列出 9 dB 的 3.0 个百分点，-6 dB 的 6.2 个百分点来自原图 5 图注的文字报告。
| 测试信噪比 | 本方法相对对照增益 |
|---|---|
| 9 dB | 3.0 points |
该表显示在 9 dB 处增益为 3.0 个百分点，而按图注文字报告增益扩大到 -6 dB 的 6.2 个百分点，支持在频率选择性衰落与信道估计误差下更需要均衡后奖励的判断。限制是只测了 AV-MNIST 与 40 符号一点，未报告 PAMAP2 同条件结果，也未说明不同延迟扩展与导频密度下的稳定性。
结论在什么条件下才成立
首先，多终端推广只做了理论扩展，K 大于 2 的阈值与群奖励形式已给出，但真实数据验证只覆盖两个终端，更高阶互补是否仍能被奖励抓住待验证。其次，奖励依赖核带宽、批量与特征尺度，论文用功率归一化、分离批量中值带宽与中等批量来稳定，换小批量或失配带宽时行为未知。
再次，敏感性在奖励系数为 1 与 2 阶时最好，系数过小补不足两符号代价，过大则压过边际充分性；该最优是在给定编码器与门参数下扫出来的，换主干或数据集可能移动。最后，节省比例依赖目标质量与插值口径，换目标线数字会变，不能理解为所有预算下恒定 30%。
复现第一步做什么
复现应先搭两终端独立编码、掩码加归一化、正交链路加均衡、联合译码的主链，并实现按符号数计费的 hard-concrete 门。默认配置按原文取候选长度 128、批量 128、门参数与 2 阶奖励、奖励系数 1，优化器从千分之一余弦衰减，训练信噪比在负 6 到 12 dB 采样。
再实现训练期奖励分支：批量构造高斯与标签格拉姆矩阵、归一化逐元乘积、2 阶熵与超额截断归一化，3 阶段训练后冻结二值掩码并移除分支。评估时固定成对信道实现，逐预算重训并报告多种子均值与标准差；多径测试直接复用掩码与权重。关于资源，本篇未发现经验证的公开代码模型数据，不得声称已开源，复现需自写训练与仿真。
什么时候值得尝试这种做法
当任务标签依赖多终端融合才显现、且单终端边际价值排序会先剪掉辅助模态时，值得尝试在均衡后加协同奖励并让梯度回到符号门。预期效果是在紧预算与低信噪比下更明显，代价是集中训练、逐预算重训与奖励超参数调节。
容易误解的是把奖励当成纯协同度量：它在强冗余下为零是设计使然，因为冗余已有任务梯度；也不能把相对节省当成百分点增益，或把插值符号数当成任一单次运行必得。还需补的验证是三终端以上真实数据、更小批量与不同带宽下的稳定性，以及换主干后奖励系数的迁移性。
📎 论文与评分元数据
排名：前50% | 文档类型：方法研究 | arXiv 原文
⚖️ 评分明细
评分属于系统判断，不是论文实验结果；八维数值与总分见页首，原始审计记录保留在后端。
评分规则：type-aware-v1
评分模型：muse-spark-1.3-contributor
评分请求协议：openai_responses