Real-Time Neural Audio on Apple Silicon: Benchmarking Inference Frameworks Under Realistic DAW Contention

英文题目：Real-Time Neural Audio on Apple Silicon: Benchmarking Inference Frameworks Under Realistic DAW Contention

会议身份：conference:dafx:2026:conference-paper-id:DAFx26_paper_16

✅ 来源为官方会议 PDF；表格与 Figure 按原文证据绑定。PDF 公式以原页区域图片展示，未冒称作者原始 TeX。

会议来源：官方记录 · 官方 PDF

标签：#基准测试 #基准设计 #高效推理 #实时处理 #音频生成

评分：7.2/10 | 创新 1.5/2 | 技术严谨 1.2/1.5 | 实验充分 1.2/1.5 | 清晰度 0.8/1 | 影响力 1.0/1.5 | 开源 0.0/1.5 | 可复现 0.3/0.5 | 工程/实践 1.2/1.5

排名：前50% | 文档类型：数据集与基准

👥 作者与机构

Dharanipathi Rathna Kumar Balasubramaniam：机构信息未能从会议 PDF 纯文本可靠映射
Joseph Timoney：机构信息未能从会议 PDF 纯文本可靠映射

📌 核心摘要

该研究处理数字音频工作站同步回调内神经音频插件的实时推理，输入为48kHz单声道音频缓冲与同步插件图负载，输出为满足1.3ms至2.7ms截止的连续音频，难点在于与数十个传统效果器共享中央处理器核心、缓存与内存带宽时尾延迟剧增易致欠载。先以长短期记忆网络、时序卷积网络与WaveNet三类九种规模拓扑配置为输入，负责构造随机权重模型以固定参数量决定推理负载，输出负载受控的待测模型集合。再将上一步输出的待测模型集合送入七种后端，负责完成缓冲级有状态单次框架调用推理并经实时消毒剂校验实时安全，输出可直接装载的后端模型实现。最后将上一步输出的后端模型实现装入基于Tracktion Engine搭建的混音竞争、实例扩展与串行深度三维会话，以Core Audio回调请求为输入施加真实驱动调度与共存压力，输出回调利用率分位数与硬件及推理欠载计数以判定是否违反截止。与仅报告孤立吞吐的已有基准相比，该工作引入真实负载下尾延迟与截止违反判定，揭示了调度抖动与缓存干扰主导失效而非单纯算力不足。在缓冲128采样48kHz基准下，BNNSGraph的RTF指标为0.022，低于RTNeural-XSIMD的RTF指标0.211。结论适用边界受限于单台M3的macOS Tahoe单声道BlackHole虚拟驱动与轻量串行链测试，立体声分层路由与多代芯片外推尚未验证。原文未披露训练、推理或部署成本。

🔗 开源与复现资源

第三方资源：https://github.com/GuitarML/GuitarML — 链接可访问（HTTP 200）
第三方资源：https://onnxruntime.ai/ — 链接可访问（HTTP 200）可达状态仅表示本次链接检查结果，不代表许可证、本文权重或运行复现已验证。

🧭 深度解读

为什么吉他音箱仿真要在声卡截止时间里跑完？

输入是这篇论文要解决的部署问题，目标是让刚入门的研究生能复述实验条件与判断依据，必须保留的信息包括硬件平台、模型家族、后端名单、缓冲与竞争维度和指标定义。论文研究的不是离线渲染更快，而是现场监听、边播边调参、总线打印这类必须同步返回的场景。

数字音频工作站向操作系统注册一个音频回调，在苹果电脑上是核心音频子系统，驱动按缓冲大小和采样率周期性触发，每次触发必须在下 1 次硬件中断前返回，否则输出缓冲欠载，人耳听到爆音。在每次回调里，工作站同步遍历插件图，每条激活轨道上的每个插入效果都要处理完自己的缓冲。神经网络做音箱、磁带、光学压缩等非线性建模时，推理被放进这个同步图里，直接挤占回调预算。离线并轨或冻结轨道可以绕开这个约束，但实时场景绕不开。

实时回调 × 硬件爆音： 实时回调指声卡驱动按缓冲大小和采样率周期性调用 DAW，DAW 必须在下 1 次中断前同步处理完所有插件；硬件爆音指回调超时导致输出缓冲欠载而产生的可闻咔哒声，二者搭配的意义在于把推理速度问题转化为能否在截止时间内稳定返回，而不仅是平均多快。

论文把背景里的两条路线讲得很具体。一条是把非实时安全的推理搬到后台线程，用无锁缓冲与音频线程衔接，音频线程本身不阻塞，但至少多出一缓冲的交接延迟，且要向宿主的延迟补偿图申报，这条路线的代表是阿尼拉与纽顿类封装。另一条是把推理写成编译期确定的实时安全代码，代表是实时神经网络库，它用模板在构建期固定层形状，运行时不分配不加锁，但支持的层与激活函数受限。论文还解释了为什么不默认搬到图形处理器或神经网络加速器。

对于现场常用的 64 到 128 采样点、在 48 千赫兹下约 1.3 毫秒到 2.7 毫秒的截止时间，往返图形处理器的启动、搬运与同步开销可能超过截止时间本身，而消费级神经加速器接口按作者所知没有暴露回调安全的低延迟路径。因此多数已部署插件仍在中央处理器上跑，这也是全文只测中央处理器路径的原因。

同类评测做了什么，为什么还没有测竞争？

要理解本文的增量，先按同输入、同目标、同运行阶段对照已有评测。模型家族上，长短时记忆网络最早在实时吉他音箱上取得可听感知的效果，时序卷积网络与波网风格结构随后用可并行卷积替代串行递推，开源的神经音箱建模器与吉他机器学习项目把这些模型带给更广泛用户。效率侧有剪枝工作把长短时记忆网络参数去掉 90% 以上并加速数倍，也有推理期结构化剪枝。

推理引擎对比方面，已有工作比较过实时神经网络库与火炬库，阿尼拉内部比较过火炬、开放神经网络交换运行时与轻量版张量流，安卓手机上比较过实时神经网络库与开放神经网络交换运行时，嵌入式板卡上比较过 4 种引擎，但论文指出它们都在孤立条件下单跑一个模型，没有其他处理抢中央处理器时间、缓存与内存带宽。

本文与这些工作的运行阶段不同。它不是再报一个孤立实时系数，而是把神经插件放进可配置混音会话，与几十个常规插件共享同一同步回调，用硬件爆音计数与尾部分位检验孤立排序是否还成立。另一个对照点是苹果的图编译接口。该接口在 2024 年开发者大会作为加速框架一部分引入，2025 年更新，作者称此前没有独立学术评测，也没有提交到机器学习性能基准组织。本文自称是第一份独立学术评测，这个定位需要按后文的验证方法来理解，而不是当作功能宣传。

相关资源中，吉他机器学习项目链接当前可用，开放神经网络交换运行时官网链接当前可用，论文自述的基准套件地址属于作者仓库，需要读者自行核对可达性。

论文到底要回答哪个可证伪的问题？

论文把问题收敛为两句可检验的话。第一，孤立条件下建立的后端排序，在真实负载压力下是否还成立。第二，平台专用的推理是否转化为更低的尾延迟与更少的截止违反。检验方式不是争论平均速度，而是看分布尾部与爆音计数。一个例子可以帮助理解但不是论文数据：假设某后端孤立中位只占截止时间的 20%，看似还剩八成余量，但如果它在真实驱动下的 99 分位冲到 1.5 倍截止时间并伴随数百次爆音，那么中位结论就是误导。

为了让检验可复述，论文固定了 3 个维度。维度 1 是混音竞争，单神经插件加可变数量常规轨道。维度 2 是实例数扩展，多神经插件并行。维度 3 是串行深度，单轨内神经插件前后加轻量常规效果。3 个维度分别对应真实混音变大、吉他手叠多个神经音色、单轨链变长的压力，机制不同，不能互相替代。

整个基准框架如何把混音压力装进一次回调？

方法全景可以沿一个样本走一遍。输入是 48 千赫兹单声道音频流，按宿主给定的缓冲切块，例如 128 点对应 2.67 毫秒截止时间。表示是模型内部的有状态延续，长短时记忆网络保留隐状态与细胞状态，卷积类保留膨胀历史，而不是每块重新累积先进先出队列。组件是待测后端的 1 次整缓冲调用，输出是处理后的同长度音频块，目标是在截止时间内稳定返回且状态正确延续。

论文用轨迹引擎搭建数字音频工作站级引擎，提供每轨插件托管、编组总线与商用工作站相同的核心音频实时线程调度，输出经虚拟声卡驱动形成带截止压力的真实回调，但不需要物理声卡。轨迹引擎默认用线程池并行处理轨道，这是理解并行竞争的关键。

实时安全 × 后台线程转交： 实时安全指音频线程中不做堆分配、不加锁、不阻塞系统调用；后台线程转交指用无锁环形缓冲把推理搬到工作线程，音频线程只做搬运，二者搭配的原因是前者保证回调不被阻塞，后者兼容本身非实时安全的推理库，新增作用是引入一缓冲延迟和推理跟不上时的补零欠载。

计时 instrumentation 也是 1 次走完的设计。每个激活轨道放回调起点插件，用原子比较交换记录每次回调的最早进入时间，总线放回调终点插件记录结束时间，每次回调利用率等于持续时间除以截止时间再乘 100%。论文报告该分布的 50、95、99、99.9 分位与最大值，分位含义是低于该值的回调占比。超时由驱动的欠载计数接口统计为硬件爆音，阿尼拉类后端额外统计推理欠载，即后台没算出新鲜输出、当前回调返回补零的次数。

协议分 4 段，预热建会话并播放 30 秒噪声达到稳态，重置边界处停止并清空计时、重启动后静置 200 毫秒再快照爆音基线，测量段记录 15 秒以填满尾部分位又不至于热漂移过大，裁剪段丢掉开头至少 300 毫秒至多一成且不超过一半的回调再统计。外层还有 45 秒全核预热与阶段间 120 秒冷却，用于压住冷机与热漂移。

七个后端与三类模型各自负责什么计算？

后端名单需要逐个讲清分工。苹果图编译接口 1 次编译整图，运行时单调用处理整缓冲，支持动态输入形状，同一编译图可服务任意缓冲而不重编，状态通过声明为输入输出的状态张量原生延续。实时神经网络库分两种后端，特征向量库与可扩展单指令多数据扩展库，长短时记忆按采样逐点跑，卷积与波网按整缓冲跑，沿用神经音箱建模器模式。

火炬库与开放神经网络交换运行时在孤立基准中出现，但因不是为实时设计而不进竞争测试，其中开放神经网络交换运行时在本文实现里长短时记忆经显式状态输入输出保持有状态，卷积与波网实际是无状态跨调用。阿尼拉封装火炬与开放神经网络交换运行时，把推理解耦到后台工作线程，音频线程只做无锁环形缓冲操作，代价是加一缓冲延迟，欠载时返回补零。

BNNSGraph × AMX 矩阵协处理器： BNNSGraph 是 Core ML 的提前编译图编译器，负责在加载时融合算子、重排权重、消除中间拷贝；AMX 矩阵协处理器是紧耦合在 CPU 核心上的宽外积矩阵单元，无核启动与数据搬运开销，二者搭配的理由是编译器知道目标芯片缓存与分块尺寸，能把卷积大矩阵直接编排到 AMX 上，新增作用是整缓冲 1 次调用完成推理。

模型侧固定三家族三档。小、中、大三档分别对应长短时记忆隐层 20、40、96，时序卷积通道 16、32、48，层数 4、8、10，膨胀从 1 到 512，波网通道 8、16、32，层数 3、10、10。长短时记忆是单递推层加稠密输出，时序卷积用因果膨胀卷积加参数化修正线性单元与残差，波网沿实时神经网络库的神经音箱建模器结构但只用双曲正切而不用门控乘法。权重随机初始化，论文给出理由是这些结构没有数据依赖分支、条件稀疏或早退路径，耗时由拓扑与参数量决定而非权重取值。初学者容易误以为随机权重不公平，这里要纠正：该论证只在无条件分支时成立，换成稀疏或早退模型就不再成立。

有状态推理 × 缓冲尺寸变化： 有状态推理指 LSTM 的隐状态与膨胀卷积的历史缓冲要跨回调保留；缓冲尺寸变化指宿主可随时改变每次回调的采样点数，二者搭配要求状态张量能按动态形状正确延续，BNNSGraph 用 CoreML 声明为输入输出状态张量原生支持，RTNeural 则在 C++ 层面手工管理。

平台优化差异是理解结果的前提。论文称图编译接口经图编译融合相邻算子、按缓存行重排权重、消除中间拷贝，并利用芯片专用矩阵协处理器。火炬经苹果加速框架的线性代数库间接触及矩阵单元，但不做整图融合与针对芯片的重排。开放神经网络交换运行时用自带数学库的处理器优化矩阵乘法，直接写向量扩展指令而不走平台线性代数库，在作者测试中未观察到矩阵协处理器使用。作者用指令采样与公开解码模式核对热点路径，但也声明苹果没有公开矩阵单元性能计数器，无法定量分离其贡献，只能说结果与矩阵加速一致。

本研究训练了什么，没有训练什么？

本研究没有训练任何音色模型，也没有做梯度更新、损失优化或早停选择，因此不存在训练集划分、验证集调参与测试集泛化这一套流程。真实计算过程是基准构造与推理计时。构造侧用固定种子预生成确定性随机输入流，预热 100 次后自适应选择迭代数以保证至少 5 秒测量时间，用高精度时钟记录每次迭代墙钟耗时，再算中位、尾分位、最小最大与标准差，同时按惯例报中位耗时除以截止时间的实时系数。

推理侧每个后端按整缓冲单调用执行，区别只在状态如何延续、是否跨线程、是否整图编译。实时安全验证是独立环节：因图编译接口闭源，作者用实时消毒器编译最小推理循环，以非阻塞属性标注实时区，在 100 次连续调用中检查堆分配、互斥锁与阻塞系统调用，报告零违反，并明确这与苹果声明一致但不构成对所有配置的形式证明。未报告的缺项也要点名：没有学习率、优化器、梯度路径、参数冻结更新说明，因为根本没有训练。

内存峰值、芯片温度直采也没有测量，不能从速度推定显存或功耗结论。

硬件、缓冲与三维竞争条件如何固定？

实验条件是复述的重点。硬件固定为苹果 M3 的笔记本，8 核中央处理器、24 吉字节统一内存，系统为苹果桌面系统，编译器为苹果 clang 发布模式，火炬与开放神经网络交换运行时版本号在原文中给出。采样率固定 48 千赫兹，孤立吞吐按 10 秒音频的单采样成本折算为实时倍数，数值越大越好。孤立实时系数在 128 缓冲、2.67 毫秒截止时间下报告，数值越小越好。竞争测试只纳入 4 个实时安全后端：图编译接口、可扩展单指令多数据扩展的实时神经网络库、封装火炬的阿尼拉、封装开放神经网络交换运行时的阿尼拉。

会话布局分 3 维。维度 1 模拟摇滚流行混音 36 轨，用真实系统音频单元搭建鼓、贝斯、吉他、键盘、人声、编组与效果返回链，其中一轨吉他挂神经模型，竞争轨道数取 0、8、24、36，缓冲取 64、128、256、512。维度 2 只放神经插件轨道无常规效果，实例数取 1、2、4、8、16，缓冲固定 128，报告的计时取会话中第一个创建的代表实例而非跨实例平均，会话级失败用硬件爆音与阿尼拉推理欠载汇总。维度 3 单轨单神经实例加轻量自研效果，链深取 1、3、5、7，缓冲固定 128，对比神经插件自身与整回调跨度的 99 分位。64 缓冲的趋势与 128 相同但幅度更大，论文点名实时神经网络库大时序卷积在 64 缓冲零竞争下可达 164.7% 的 99 分位与 888 次爆音，复现时应优先看 128 再看 64 的恶化程度。

孤立很快的模型为何在声卡回调下爆音？

先提出比较问题：在缓冲 128、大模型、零竞争与满竞争下，孤立实时系数能否预测声卡回调的 99 分位与爆音数，公平条件是同一模型同一缓冲同一驱动，指标方向是占用百分比越低越好、爆音越少越好。孤立吞吐显示图编译接口在卷积类全面领先且优势随缓冲增大，大时序卷积相对可扩展单指令多数据扩展后端从 32 缓冲的 3 倍拉到 1024 缓冲的 25 倍，大波网从 1.3 倍拉到 12 倍，跨尺寸看小中大分别为 5 倍、19 倍、25 倍。

长短时记忆则相反，中小尺寸实时神经网络库的特征向量后端更快，大尺寸图编译接口反超，论文用串行递推无法跨采样并行、矩阵太小不足以发挥矩阵单元来解释。火炬在大时序卷积上超过两种实时神经网络库，但长短时记忆最慢，开放神经网络交换运行时小模型快，但其卷积无状态实现使结果需打折扣。

下面这张表是缓冲 128 时大模型的孤立实时系数，数值越小越好，表中大于等于 0.10 的单元在原文中标色提醒。它说明所有后端孤立都小于 1，看似都能实时，但后文将证明这个结论不可靠。表前已给出比较问题与指标方向，表后将解释它如何误导选型。

Backend	LSTM-L	TCN-L	WN-L
BNNSGraph	0.053	0.022	0.021
RTN-Eigen	0.078	0.222	0.092
RTN-XSIMD	0.089	0.211	0.085
LibTorch	0.346	0.230	0.209
ONNX Runtime	0.100	0.115	0.063

该表显示图编译接口在大模型仅占截止时间的 2% 到 5%，实时神经网络库大时序卷积占 21% 左右，火炬占 20% 以上。未胜出项也要保留：火炬长短时记忆大模型达 0.346，开放神经网络交换运行时长短时记忆大模型为 0.100，这些孤立数字本身不差，但不能直接当作混音可用的证据。

为核对卷积优势是否随尺寸与缓冲稳定，整理第二张宽表。它比较孤立吞吐的倍数关系，数值越大越好，条件必须连同缓冲一起读，不同缓冲的倍数不能直接平均。表前问题是优势来自哪里，公平条件是同模型同缓冲，表后将回到串行与并行的机制解释。

条件	指标	图编译接口	实时神经网络库	倍数关系
长短时记忆小尺寸	吞吐实时倍数	149×	154×	实时神经网络库略快
长短时记忆中尺寸	吞吐实时倍数	21×	64×	实时神经网络库更快
时序卷积小中大	吞吐相对最优实时神经网络库	领先	基准	5×，19×，25×
大时序卷积 32 到 1024 缓冲	相对可扩展单指令多数据扩展后端加速比	增大	基准	3×到 25×
大波网 32 到 1024 缓冲	相对可扩展单指令多数据扩展后端加速比	增大	基准	1.3×到 12×

该表的主要收益是图编译接口的卷积可扩展性，代价是长短时记忆中小尺寸并不占优，反例恰好说明串行递推吃不到整图并行红利。复现时不要把不同缓冲的加速比混为单一数字，也不要把无状态的开放神经网络交换运行时卷积数字与有状态实现直接排名。

孤立实时系数 × 竞争下尾延迟： 孤立实时系数指单模型循环测得的中位耗时除以截止时间；竞争下尾延迟指在 DAW 多轨与真实声卡回调压力下利用率分布的 p99 等分位，二者分工不同，前者只反映裸算力，后者反映缓存、带宽与调度抖动，搭配的意义在于检验孤立排序在真实负载下是否还成立。

维度 1 的竞争结果是全文转折。同样缓冲 128、大模型下，实时神经网络库大时序卷积孤立实时系数 0.211，看似还剩 79% 预算，但在零竞争声卡回调中 99 分位已达 158.5% 并产生 355 次硬件爆音。图编译接口大时序卷积在 36 轨竞争下 99 分位仅 14.3%，还剩 86% 预算，所有大模型在 128 缓冲下从不超过 20% 且零爆音。长短时记忆与波网的实时神经网络库 99 分位在 65% 到 82% 之间，虽无爆音但余量紧张。阿尼拉音频线程占用接近零，但这只是音频线程成本，不代表后台跟得上。

下图把孤立与声卡 99 分位的差距画成每行一条线，空心圆是孤立，实心圆是声卡 99 分位，横轴是截止时间占用百分比，100% 虚线是生死线。图前导读已说明横轴与符号含义，图后将解释为什么差距最大的是大时序卷积。

看图路径： 1. 先看横轴截止时间占用百分比与 100% 红色虚线的含义；2. 再对每行比较空心圆孤立值与实心圆声卡 p99 的位置；3. 重点观察 TCN-L RTNeural 一行从约 21% 拉到 158% 并标注 355 次爆音；4. 最后对比三行 BNNSGraph 蓝色点始终贴近左侧低占用区

论文图 1。原论文 Figure 1：“Isolated utilization vs. Core Audio p99 neural-plugin utilization at buffer 128, zero contention.”。

从像素可见，蓝色两点代表图编译接口的行始终挤在左侧低占用区，空心与实心距离很短。红色代表实时神经网络库的行明显右拉，大时序卷积一行拉得最长，实心点越过 100% 虚线并标注 158% 与 355 次爆音，波网与长短时记忆的红线也拉到 60% 到 80% 区间。这支持论文判断：孤立中位无法预测尾部，卷积大模型的竞争落差最大。不能把曲线向下直接读成性能变差，这里的横轴是占用率，越向右越差，越过虚线即超时。

第三张宽表把维度 1 的关键对照固定下来，条件为缓冲 128、大模型、零与满竞争，指标为神经插件 99 分位占用与硬件爆音，占用越低越好。表前问题是满混音是否改变结论，公平条件是同驱动同缓冲，表后将讨论尾部收窄的未解现象。

模型与后端	缓冲与竞争	孤立实时系数	声卡 99 分位占用	硬件爆音
大时序卷积实时神经网络库	128 缓冲零竞争	0.211	158.5%	355
大时序卷积实时神经网络库	128 缓冲 36 轨竞争	未单独报孤立	88.0%	15
大时序卷积图编译接口	128 缓冲 36 轨竞争	低占用	14.3%	0
全大模型图编译接口	128 缓冲各竞争级	至多 0.053	低于 20%	0

表后解释需要同时给收益与反常。收益是图编译接口跨竞争几乎持平，代价是实时神经网络库大时序卷积在满竞争下 99 分位反而从 158.5% 降到 88.0%、中位却从 21.5% 升到 75.5%，尾部分布收窄的原因原文明确说尚未完全理解，复现时不应编造缓存或调度解释，只能报告该现象并控制热状态与线程池条件后重测。

并行叠实例与单轨加深链，哪种压力更致命？

维度 2 测并行实例数，问题是每个后端能撑住几个神经插件，条件是缓冲 128、大时序卷积、无常规效果，指标是代表实例 99 分位、会话硬件爆音与阿尼拉推理欠载总数。维度 3 测串行深度，问题是单轨链变长是否拖慢神经插件自身，条件是缓冲 128、大时序卷积，指标是神经插件 99 分位与整回调 99 分位。两者机制不同，前者是多实例并行抢核与共享推理池，后者是同轨串行累加工作量，不能用一个结论覆盖另一个。

第四张宽表固定维度 2 的可运行对照，实例数从 1 到 16，数字必须连同实例数与回调总数一起读，不同实例数的欠载总数不能直接比速率。表前已给出问题与公平条件，表后将拆分 3 种失败模式。

实例数	代表实例后端	代表实例 99 分位	会话硬件爆音	会话推理欠载总数
16 实例	图编译接口大时序卷积	27.1%	1	不适用
16 实例	阿尼拉火炬长短时记忆大模型	未报代表值	0	44,324

表后解释要区分失败模式。实时神经网络库在 4 实例即出现爆音，16 实例达 312 次，说明单实例孤立 0.211 不能外推到多实例。图编译接口从 1 实例 4.0% 亚线性涨到 16 实例 27.1% 且仅 1 次爆音，扩展性明显更好。阿尼拉把音频线程压到 2.1% 以下且硬件爆音为零，但后台欠载在 16 实例下爆发，大时序卷积 14022 次、长短时记忆 44324 次，按约 5193 次回调折算意味着大量回调补零，这不是无代价的胜利。

反例是封装开放神经网络交换运行时的阿尼拉在 16 实例下零欠载，与其单次 0.31 毫秒低于火炬 0.61 毫秒一致，说明欠载取决于后端单次成本而非阿尼拉调度本身。论文还指出会话共享单例上下文与默认 4 工作者，16 实例每秒约 6000 次推理、每工作者不足 0.67 毫秒，已逼近火炬单次成本，这是支持性解释而非因果证明。

维度 3 的结果是负结果，同样重要。链深从 1 到 7，神经插件 99 分位变化不足 1 个百分点，图编译接口整回调从 4.1% 到 4.4%，实时神经网络库从 27.2% 到 27.7%，阿尼拉音频线程与整回调仅小幅上升，无推理欠载，仅实时神经网络库大时序卷积在深链出现孤立单次爆音。这说明轻量串行效果不是主要矛盾，并行多神经实例才是。论文明确留白：若串行的是多个神经模型而非轻量效果，预期会更尖锐，但未实测，不能把本节结论推广到神经串神经。

哪些边界没有测，读数时不能外推？

论文用一节集中声明八项限制，复述时要逐项保留适用条件。第一，单声道会话，立体声会增加中央处理器压力，不能把当前余量直接当立体声余量。第二，扁平拓扑，编组与返回按独立负载建模而非完整分层路由。第三，虚拟声卡驱动，提供核心音频回调调度但不含物理接口的直接内存访问与总线行为。第四，单机单芯片，所有结果来自一块苹果 M3，不同代际缓存与矩阵单元实现不同。

第五，热状态，只用预热与冷却压漂移而未直采芯片温度。第六，阿尼拉默认共享工作池结果，不代表逐模型调优后的表现。第七，开放神经网络交换运行时卷积跨调用实际无状态，与有状态实现不可比。第八，只报时间不报内存峰值，卷积大模型内存随缓冲的变化是互补轴。这些缺失不是技术错误，但意味着总体趋势不等于每组每步成立，选型时必须按自己的轨道数、实例数与缓冲重测。

要复现这套竞争基准，先做什么？

复现顺序按学习依赖排。先固定平台与版本：苹果芯片笔记本、桌面系统与编译器发布模式、火炬与开放神经网络交换运行时版本、轨迹引擎与虚拟声卡驱动，保证回调走真实实时线程。第一步跑孤立基准，用固定种子生成确定性随机输入，100 次预热后保证至少 5 秒测量，用高精度时钟取中位与尾分位，同时算吞吐实时倍数与 128 缓冲实时系数，核对长短时记忆中小尺寸是否仍是实时神经网络库更快、卷积是否图编译接口领先。

第二步搭维度 1 36 轨混音，挂真实系统音频单元链，缓冲 128，先零竞争再 36 轨，记录代表神经插件的 50 与 99 分位及驱动爆音，重点复现大时序卷积从孤立 0.211 到声卡 158.5% 与 355 次爆音的跳变，以及图编译接口低于 20% 且零爆音的持平线。第三步跑维度 2 实例扩展，实例数按 1、2、4、8、16 扫，代表实例计时与会话爆音分开记，阿尼拉同时记推理欠载总数，注意默认共享上下文与工作者数，欠载总数要除以回调数再理解严重度。

第四步跑维度 3 链深，注意神经插件自身与整回调分开记，不要把整回调上升误读为神经推理变慢。热控制必须保留外层全核预热与阶段间冷却，否则首配置冷机偏快、后配置热降频。代码开源、权重下载与系统可运行要分开：随机权重可直接跑，真实音色权重需另行加载，虚拟驱动与系统音频单元需在苹果系统上才完整可运行。

何时值得尝试图编译接口，何时要换方案？

综合判断分 3 条。第一，如果目标是苹果芯片上的卷积类神经音色，且运行在多轨混音或多实例并行下，优先尝试图编译接口，依据是它在维度 1 满竞争下大模型低于 20% 且零爆音、维度 2 16 实例仅 27.1% 与 1 次爆音、吞吐优势随缓冲增大。第二，如果模型是小中尺寸长短时记忆且只有单实例孤立运行，实时神经网络库在孤立更快且实现简单，但在大模型竞争下余量只剩约 20%，是否够用要看自己的尾部要求，不能只看中位。

第三，如果后端本身非实时安全又必须用该模型，考虑阿尼拉类异步封装，但要同时考核硬件爆音、推理欠载与一缓冲延迟，欠载时补零对音质的影响与延迟补偿是否可接受必须另行听感与工程验证，16 实例下火炬封装的数万欠载说明它不适合高并行。还需补的验证包括立体声与分层路由混音、其他苹果芯片代际、长时间热稳定、内存峰值与真实音色权重的听感对照。

论文的方法论贡献大于单点速度结论：选型不应基于孤立实时系数，尾延迟在真实竞争下才是决定现场可用的量。