从声音听到动手:边缘音频智能体为何要按 sensing-to-action 全链路谈安全
本文针对边缘部署的音频大模型智能体提出声学感知到动作的系统模型,沿六个阶段整合攻击、防御与评测证据,指出单点防护不能保证端到端安全,结论成立依赖于最终部署形态、权限绑定与跨阶段传播是否被完整评测。
本文针对边缘部署的音频大模型智能体提出声学感知到动作的系统模型,沿六个阶段整合攻击、防御与评测证据,指出单点防护不能保证端到端安全,结论成立依赖于最终部署形态、权限绑定与跨阶段传播是否被完整评测。
Oído 把 13M 参数 Conformer-CTC 以整句整块加按帧动态 int8 的方式装进 ESP32-S3 并在 LibriSpeech 上做到 3.70%/8.23%,代价是单核约 2 倍实时、文本要在说话结束后数秒才出现。
论文把多通道复数掩码估计问题交给全连接脉冲网络,用直接编码与率编码两种脉冲序列实现多麦克风空间信息的利用,并在固定仿真条件下刻画了模型宽度与脉冲长度带来的增强质量与计算代价权衡。
针对级联助手必须等说完话再调工具的问题,论文在流式识别期间用规则预测器提前发起只读搜索并缓存注入大模型,在商用手机实测把中位首音频延迟从 5.79 秒降到 4.60 秒,代价是部分投机调用被浪费。
该论文在 4 GB Jetson Nano 上用 Whisper 加 Opus-MT 加多语言 BERT 门限加 MBR 二遍修正研究英西语音翻译,在 tau 为 0.90 时 N 为 10 带来 BLEU 加 0.67 的显著词汇提升而 N 为 3 带来 COMET 加 0.0020 的语义提升,代价是常驻约 3.6 GB 和数十秒级延迟。
针对健康机动与故障在声音上容易混淆的问题,该工作用去噪加机动条件重构只学习健康声音,用重构误差做异常分,在同一划分下完整模型 AUC 达到 0.884,但误报率上升到 0.296 且端到端延迟约 20 ms 主要来自去噪网络。
针对手机上音频已预填而完整回答仍需逐词生成的按需理解任务,As2d 让音频条件起草者脱离目标已验证前缀独立推进并由目标验证纠正,在四机七数据集上把合并语音识别吞吐相对纯目标解码提高 42 到 76%,代价是候选供给不足时仍需目标单步推进且增益依赖覆盖率与到达时机。
针对被动声学监测每夜数十 GB 超声数据的问题,该工作把短时傅里叶特征加轻量谱减与全量卸载到 MVP 加速器的 8 比特 CNN 做成边缘门控,在空间异域低流行率下报告 AUC-ROC 0.9748 并抑制 99.4% 噪声帧,代价是只保留 65.3% 蝙蝠叫声且 100 毫秒窗仍需 104.00 ms 端到端延迟。
针对 Qwen3-TTS 内层 MultiCodeDecoder 每帧 15 次自回归调用的主导延迟,论文复用冻结的逐位置 LM 头并只训练 3 个残差偏移向量做草稿加稀疏树验证,在保持 top-k 采样分布无损下实现约 2.47 个 token 每次调用和 2-2.2 倍实测加速,代价是每次验证调用查询长度增大带来的 10-20% 额外开销。
论文在笔记本与手机上实测四种神经音频解码器与 AAC-LC 和 Opus 的解码能耗与 ViSQOL 质量,报告神经端以更低码率达到相近质量但解码能耗更高,并用传输能量系数门限量化何时省下的传输能耗才能抵消多出的解码能耗,其中 EnCodec 门限最低而手机端 DAC 与 SNAC 多组超过 200 mJ/kbit 且全频段解码慢于实时。
针对连续音频流中的关键词检测任务,论文把已训练好的卷积主干切成以池化结尾的子模型并按静态调度稀疏执行,在保持识别精度的同时报告最高 82% 和 46% 的每秒计算量下降,但分类间隔拉长带来了可控的平均延迟增加。
针对助听级单片机算力与功耗约束,论文用卷积网络估计最小方差无失真响应权重加轻量变换器逐帧修正,并以交错执行与混合精度在 GAP9 上实现 15 毫秒帧延迟,部署后报告 STOI 97.65%、SI-SNR 20.26 dB、宽带 PESQ 3.676、平均功耗 45.9 毫瓦,语音占空比下可超 16 小时续航,代价是权重刷新周期拉长到 564 毫秒且依赖语音 …
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
论文把 Parakeet-CTC 的相对位置注意力、Swish 和异常激活全部改写为整数运算,在 LibriSpeech test-other 上以 4.97% 词错误率和 0.048 实时率跑通手机 NPU,代价是相对浮点基线仍高约 1.21 个百分点且依赖静态图与填充。
LUMO 针对无网与隐私敏感场景,在树莓派 5 上用本地语音识别加 4 比特量化小模型加本地合成组成全离线流水线,在短指令上报告低噪声下较低词错误率与约 3.2 秒端到端延迟,代价是强噪声下错误率明显上升且小模型推理能力有限。
针对非因果教师特征含未来上下文与因果学生零前视能力冲突的问题,该文用下三角掩码的样本内时间关系蒸馏加离线双向拓扑先验,在 GSC V2 上把因果 1D-CNN 准确率从 95.12% 做到 96.91%,并在 1.0 FA/h 下把连续流误拒率从 8.52% 降到 4.15%,且不增加部署参数与单步延迟。
OnDA 针对常开关键词识别的说话人与环境偏移,把权重自学习与结构化通道剪枝都搬到端上,用伪标签的域内数据做剪枝与微调,在 HeySnips/HeySnapdragon 上以 0.5 次误报每小时下等精度实现最高 9.63×压缩,代价是伪标签噪声与微调样本更少且剪枝时机影响端上能耗回本点。
针对 Conformer-Transducer 端侧过大问题,论文用二值低秩分解加梯度敏感度的混合秩分配把编码器压到亚 1 比特,用 LibriSpeech 上 1.0 bpw 混合秩 dev-other 词错误率 6.01% 与 0.2 bpw 仍可运行为证据,代价是解码器与联合网络仍需高秩且低码率下词错误率明显上升。
针对强噪声下轻量声学麦克风增强容量不足的问题,LAU-NetV2 用皮肤加速度计压缩出语音活动和谐波两路线索以特征调制方式控制 U-Net 瓶颈,在 TAPS 加 DNS 噪声上把 PESQ 从 1.78 提升到 2.78,代价是增加约 30k 调制开销并需经 40% 剪枝才能在 MCU 上满足 48.66 ms 推理预算。
为在拿不到原始训练数据且不允许老词退化的条件下增加新触发词,该文冻结约 150k 参数的基座并只训练不超过 10k 参数的扩展分支与新词头,在固定 1% 误接受率下把新词平均漏检率从可部署独立模型基线的 6.46% 降到 4.37%,最坏情况计算量为 16.34M,低于同预算适配器与低秩适配的 18.45M 与 20.52M。