📄 当人工智能走进弦乐重奏:从作曲工具到创作对话者
英文题目:In Human Memories. Technology, Creativity and Self-Determination: An Ethical Proposal
评分:4.1/10 | 创新 1/2 | 技术严谨 0.8/1.5 | 实验充分 0.5/1.5 | 清晰度 0.7/1 | 影响力 0.5/1.5 | 开源 0/1.5 | 可复现 0.1/0.5 | 工程/实践 0.5/1.5
👥 作者与机构
- Francesco Vitucci:机构信息未能在本次解析中与作者逐人可靠绑定
- Giuseppe Silvi:机构信息未能在本次解析中与作者逐人可靠绑定
- Francesco Abbrescia:机构信息未能在本次解析中与作者逐人可靠绑定
- Anthony Di Furia:机构信息未能在本次解析中与作者逐人可靠绑定
- Francesco Scagliola:机构信息未能在本次解析中与作者逐人可靠绑定
📌 核心摘要
本论文追问作曲家在人工智能介入作曲时如何保持主动,其输入是从文字生成到声音录制、实时处理再到空间播放的漫长技术链,输出是可上演的室内乐作品,难点在于任一环节交由他人或自动化都可能削弱作曲家的决定权。延期处理指采样、计算与聆听分在不同时刻完成,混合处理指演奏在过去完成而计算结果可在演出时刻发声,实时处理指演奏信号进入处理并几乎同时发声。第一个案例是Alexander Schubert的Convergence(2020/21),为弦乐队与人工智能系统而作,人工智能在台上学习、复制并支配演奏员,论文将其读作反乌托邦。第二个案例是Francesco Vitucci的In Human Memories(2024),为四把大提琴与一位电声演奏员而作,流程是先与GPT-4对话生成三个狄多独白文本,再由三位女声录音并用语音变换得到异化变体,最后由大提琴的模仿性写作与电声演奏员的触发和实时处理共同呈现。与已有做法的关键差异在于作者强调作曲家亲自掌握技术并让电声演奏员站在台上参与室内乐互动,而不是把技术工作完全交给助手。该主动性结论只适用于作曲家直接控制技术链且电声演奏员在场呼吸配合的室内乐条件,若依靠远端自动化触发或缺席操作则可能失效,且未在其他编制与听众接受度上验证。原文未提供可核对的关键定量结果。原文未披露训练、推理或部署成本。
🔗 开源与复现资源
第三方资源:https://openai.com/ — 链接不可用(HTTP 403)
第三方资源:https://elevenlabs.io/ — 链接可访问(HTTP 200)
第三方资源:https://www.alexanderschubert.net/works/Convergence.php — 链接可访问(HTTP 200)
第三方资源:https://archive.aec.at/prix/showmode/67735/ — 暂时无法访问
可达状态仅表示本次链接检查结果,不代表许可证、本文权重或运行复现已验证。
🧭 深度解读
这篇论文要解决什么创作困境
论文面对的输入是作曲家今天必然遇到的技术环境:个人电脑普及后的现成工具、实时音频处理系统,以及以大语言模型和语音合成为代表的人工智能。目标不是评测某个模型的分数,而是回答作曲家如何保持自我决定:是把人工智能当作被动工具,还是被它收编为可编码的参数。
作者提出必须保留的信息是对过程的理解,而不只是产品的包装。论文把输出设定为一种伦理主张:作曲家通过掌握技术细节重新把技术变为对话者。这个主张能否成立,取决于后文两个作品是否真的展示了不同的权力关系,以及新作的每个技术选择是否有据可查。
对刚入门的研究生而言,关键是先分清论文讨论的不是自动作曲比赛,而是室内乐舞台上人与机器如何分工。谁提供材料、谁提出要求、谁在听觉上跟随谁,这些关系构成了全文的评价条件。
计算机音乐的三段时间模型从何而来
要理解后文的争论,需要先知道声音从采样到被听到的时间可以怎样划分。论文回顾了从大型机房到紧凑可编程系统的历史:早期只能先算后听,后来才逐渐实现边奏边算。这个时间差决定了电子声部能否被演奏员实时激发,也决定了是否需要助手来弥合技术鸿沟。
延期处理 × 混合处理 × 实时处理: 延期处理指采样、数值计算和聆听结果分成三个先后时刻;混合处理指把后两步合并为实时发声,但采样仍在先;实时处理指三步几乎在同一时刻完成。三种方式区分的是声音从进入机器到被听到的时间间隔,决定了电子部分能否与演奏员同呼吸、能否被即兴解释。
论文用三幅示意图区分延期、混合与实时 3 种范式。延期范式至今仍用于神经网络训练这类计算量大的任务;混合范式把处理与聆听合并;实时范式把采样、处理、聆听压到几乎同一时刻。作者提醒读者在后文遇到范式字样时回到这三幅图核对,不要把训练耗时与舞台实时性混为一谈。
下表把历史调查中给出明确数字的早期事件放在一起,说明计算机作曲从一开始就与弦乐器和人力协作绑定。
表 1 要回答的问题是:最早的计算机作曲在什么机器上、用多大编制、以什么形式确立了人机协作。这个比较不涉及音质优劣,只核对时间、设备与编制事实。
| 历史节点 | 设备与编制 | 规模与形式 |
|---|---|---|
| 伊利诺伊大学 1952 年装机 | ILLIAC I,第一台电子计算机之一 | 当时能力极为有限 |
| 希勒与艾萨克森的弦乐四重奏作品 | 为弦乐四重奏而写,总谱保留人类演奏 | 分为 4 个乐章,均称为实验 |
表格呈现的是论文报告的史实起点:1952 年装机与四乐章弦乐四重奏结构。它支持的判断是计算机一介入作曲就面临记谱转换与演奏可行性问题,限制是该表只覆盖美国一条线索,欧洲电子音乐中心的大量实例未列入同一比较。
从助手分工到黑箱:为何人工智能不一样
1970 年代以后,一些研究机构向作曲家开放,作曲家多出于好奇接触新乐器,需要专家讲解发声可能并协助技术过程。法国声音音乐协调研究所逐渐固定了音乐信息实现者的角色,作曲家是否还需要助手的争论一直延续到今天。
论文认为人工智能把旧的分工难题推向极端。神经网络从复杂数据中提取特征,再经多层处理,其内部过程具有黑箱或封闭架构的特点:能力强但不能被有意识地追踪。在此之上搭建的任何上层结构都进一步遮蔽细节,于是又需要培养能指导他人的专门人物。
这段历史的作用是为后文的伦理对比铺垫条件。如果技术不可理解,所谓对话就可能是服从;只有保持对架构的开放,作曲家才可能在人工智能面前保持主动。论文把教育使命与持续的技能习得联系起来,而不是许诺一键式创作。
两种人工智能观到底在争什么
论文把问题收拢为可观察的舞台关系。在一种关系里,人是人工智能的学习材料,演奏员忠实回应机器的要求,角色发生反转;在另一种关系里,人工智能提供文本起点、声音替身与处理灵感,但曲式、配器与现场调度仍由作曲家决定并能说清每一步为何如此。
判断标准不是音乐好不好听,而是权力流向。谁编码谁,谁打断谁,谁在静默时还能独立发声,这些都是可核查的戏剧安排。论文选择弦乐作为观察对象,部分原因是弦乐是西方管弦乐传统的代表性乐器,被学习、克隆与弯折的过程具有象征可读性。
研究生复述时要抓住这个可比性:同样的弦乐加电子编制,可以讲出吞噬的故事,也可以讲出对话的故事。区别不在用了什么品牌模型,而在作曲家是否保留了干预、刷新与否决的环节。
两条创作路径的整体安排
论文安排了两条路径。第一条是德国作曲家亚历山大·舒伯特的作品,弦乐合奏加人工智能系统,在声音音乐协调研究所合作开发,投入了大量物质与人力。第二条是作者本人为四把大提琴与 1 位电声演奏者而写的新作,其装置由巴里音乐学院电子音乐学院直接负责发展与上演。
生成器 × 判别器 × 生成对抗网络: 生成器负责产生混入真实数据中的假数据,判别器负责评价真假并把反馈送回生成器,二者竞争使生成能力逐步提高。生成对抗网络就是这对竞争关系的总称,在文中被用来说明神经网络如何学习并变形复杂的音乐与视听特征。
前者被作为公开使用人工智能并将其推为主角的标杆,后者被作为可全程追踪的个案。前者重在展示世界可被建模、模型可被扭曲的观念;后者重在展示如何把模型的怪异输出弯向可用的戏剧形式。两者都涉及弦乐,但技术路线与人力投入完全不同,不能直接比作同一条件下的优胜。
下表核对两部作品的基本事实,防止把不同规模误读为同场竞赛。
表 2 要比较的是编制、时长与首演事实是否一致,方向不是分数高低,而是事实是否支撑后文的权力解读。
| 作品 | 编制与时长 | 首演事实 |
|---|---|---|
| Convergence,弦乐合奏加人工智能系统 | 全长 35 分钟 | 2020 年 10 月在波恩首演现场版,汉堡共鸣合奏团参与 |
| In Human Memories,四把大提琴加 1 位电声演奏者 | 3 段默剧式结构,加两段电子间奏 | 2024 年 7 月 24 日在巴里尼诺·罗塔礼堂首演 |
表中数字来自论文陈述:35 分钟、2020 年 10 月波恩、2024 年 7 月 24 日巴里、四把大提琴加 1 位电声演奏者。它支持的是两者在可考性上的差异:前者依赖大型团队与预训练大模型,后者依赖学院内部可调度的录音与扩声资源。限制是时长与编制不能推出艺术价值,投入规模也不是创作自主的直接度量。
吞噬式剧情如何让乐队沦为材料
在舒伯特的作品里,人工智能主角逐步展开:核心预训练于大语言模型与基于深度学习的语音合成,因而获得说话与互动能力。人类在剧中的功能非常明确,就是供机器学习用的材料。机器学习如何合成逼真的人脸视觉复制,如何研究弓法动作,如何分析空弦、拨弦、噪声等器乐法与演奏员自己录的人声样本,并加以复制、扩展与扭曲,演奏员都忠实照办。
论文引用机器的台词一切都被编码来点明这种世界观:人类与人工存在具有共同根源,但所谓学习更像吞噬,把触手可及的一切编码进来。两个实体没有寻找对话的可能,乐队既非次主角也非对立面。弦乐从技术作曲角度看是偶然选择,但象征上恰好是西方传统被夺走的战利品。
这个解读的成立条件是接受论文对舞台行为的描述:请求由谁发出、模仿向哪个方向进行。如果只听录音而不看谁指挥谁,就无法验证吞噬是否成立。论文也承认无论个人审美如何,该作都是必须面对的参照。
三段虚构记忆如何变成音乐曲式
新作的起点是让机器扮演虚构人物并编造记忆。作者先让模型找出十七至十八世纪歌剧中 3 位被抛弃的狄多,再要求根据各自脚本写出记忆,且避免点出人名与性别,聚焦被抛弃主题。由于没有人能记得自己出生,模型编造出生记忆时的悖谬恰好暴露了其人工本性,作者把这种陌生感转为创作资源。
3 段文本经人类修订去掉过度华丽的腔调,分别对应皮奇尼、萨罗与普赛尔笔下事件性格,成为 3 段人声与乐队交替的默剧式结构。文本不在舞台上由真人唱出,而是由电声演奏者按总谱指示投放;3 位女声录音提供不同音质,变声替身制造多重性与间离效果,引导细心听者思考机器是否参与了极度情绪化的时刻。
下表整理 3 段音乐身份的对应关系,说明文本性格如何约束器乐写作。
表 3 比较的问题是:同样写抛弃记忆,3 段音乐是否用了可区分的材料与表情,评价依据是论文对每段的文字描述而非测听分数。
| 文本来源 | 音乐身份 | 大提琴与人声状态 |
|---|---|---|
| 皮奇尼一节 | 阴影中的希望与韧性 | 如歌旋律与协和线条,人声尚有微光 |
| 萨罗一节 | 愤怒与痛苦的对比 | 驱动性节奏与尖锐不协和,暴力与沉思交替 |
| 普赛尔一节 | 衰弱、听任与挽歌 | 稀疏和声与渐隐织体,如远去记忆 |
该表支持的判断是曲式不是抽象的三部性,而是由三份文本性格直接塑造。限制是论文没有提供听众能否分辨 3 段的实测数据,也未报告 3 位女声与变声替身出现的具体时长比例,因此不能把作曲意图等同于感知效果。
四把大提琴如何用细微差异织成整体
新作选用四把大提琴,正是看中编制同质带来的挑战:没有音区与音色级差,只能靠表情 нюанс 重建戏剧空间。四件乐器持续互仿、追逐与融合,形成论文所称的超级乐器,支撑预录与合成人声,写法上略参日本三味线伴奏歌舞伎的思路,但把可理解的人声放在虚拟扩声一侧,真乐器始终在场,形成空灵与可触的对位。
模仿 × 异音同构 × 超级乐器: 模仿指乐器之间互学旋律节奏音色动机;异音同构是模仿的一种,指同类旋律被多件同族乐器同时演奏但各带装饰与节奏差异;超级乐器是四把大提琴用上述手法长期交织后形成的整体听感。三者分工是手段、技术形态与整体效果,组合后让同质编制既统一又有多重细节。
异音同构在此承担了统一中见多样的功能。同一旋律类别由四把琴同时演奏,各自在节奏、装饰与放大上轻微偏离,既非齐奏也非对位,而是在叠置中产生虹彩般的音响。第三默剧开头还用冻结手法让每把琴持续普赛尔固定低音的一个音,营造混响空间,再让咏叹叹调开头材料如轮唱般浮现又沉没。
请带着区分齐奏与复调之间第 3 种状态的任务看下图,重点是四行是否同源而不同形。
看图路径: 1. 先看上半页四行大提琴谱是否轮流出现相似的颤音与滑音形态;2. 再看下半页四行谱在相同位置是否以不同节奏和装饰分叉;3. 注意谱面上电子声部与弦乐声部的上下分区,确认谁在主导时间
论文图 4。原论文 Figure 4::“Heterophony among the four cellos: the same melodic principle realized in four slightly different ways.”。
图中可见的是总谱第 27 至 32 小节附近的两段乐句:上方四行是电子声部控制线,下方四行是四把大提琴声部。大提琴以靠近琴马的弓法、颤音与泛音记号演奏相似线条,但在时值切分与装饰密度上各不相同,正是同一旋律原则的 4 种轻微实现。它帮助理解异音同构不是抄错音,而是作曲家有意保留表演差异下的内部一致,用多重狄多的意象统一全曲。
电声演奏者为何必须站在台上
电声演奏者是台上的舵手,既按谱投放人声,也实时处理大提琴声音,控制着相当复杂的算法声部,是一件与他人对话的真正乐器。论文强调让他站在台上与弦乐一起呼吸,而不是躲在远处只求最佳监听,是为了触发合奏中的同步机制,并把声音导向留给事先商定的专人。
固定媒体间奏 × 现场电子即兴间奏 × 共振甲音滤波: 固定媒体间奏指第一段电子独奏,播放已被处理到不可辨认的人声片段;现场电子即兴间奏指第二段电子独奏,由演奏员实时操控发声算法;共振甲音滤波指该算法用模拟人声共鸣峰的滤波器组产生类人声事件。三者共同解决实时电子过于依赖器乐输入的问题,让电子演奏员在两段独奏中恢复独立表达。
另一层动机是摆脱前件后件的依赖。实时电子通常是有输入才有输出,乐器休止时电子也随之沉寂。作者为此写了两段间奏作为华彩:第一段是纯音响固定媒体,把全曲人声碎片处理到不可辨认;第二段是现场电子独奏,用共振峰滤波器组生成类人声事件,由演奏者即兴操控重获独立。这两段把电子从伴随者变为可独立陈述的角色。
复述时要记住:电子声部的自主不是靠音量,而是靠在没有器乐信号时仍能发声的结构安排。这是检验所谓对话是否成立的一个具体听点。
本研究训练了什么,没有训练什么
这是 1 篇创作研究论文,没有报告作者自己训练神经网络的损失曲线、数据划分或算力开销。需要分清的三件事是:大语言模型与语音合成模型的预训练、变声工具的调用、作曲层面的文本筛选与音乐写作。前两者是调用已有模型,后者是人的编辑与配器。
具体而言,与机器关于出生与记忆的对话使用的是现成的聊天模型;3 段狄多记忆文本是在长达数周的对话中通过追问、刷新分支、要求忽略错误段落逐步磨出的;3 位女声在礼堂录音后,用语音到语音方案生成 prosody 相似但音色不同的人声替身,作为对人类声音的瞬间干扰。论文没有披露提示词全部细节与模型版本冻结情况,缺的是可完全重复对话的参数记录。
因此训练一节的结论是:本研究的计算在于检索、生成、筛选与变换,而不在于从零优化权重。复现时不应期待找到训练脚本,而应准备对话日志管理、文本修订记录与录音变换链路。不把调用预训练模型误认为自己训练了模型,是阅读本文的关键。
音乐厅里的三维声场如何搭建
作品为音乐厅聆听而构思,带有特定场地的性质。捕捉与实时处理之外,论文花篇幅讲扩声观念:要把虚拟角色物化在舞台上,需要 3 维聆听系统。从上世纪中叶到环境声技术的 3 维声场编码,目标都是准确重现 3 维声场并在空间中定位与移动声音对象。
环境声录音 × 三维声场编码 × 波场合成: 环境声录音指用四话筒包围大提琴直接拾取三维声场;三维声场编码指用球谐函数记录声源位置并在三维空间中移动声像;波场合成指用扬声器阵列重建听者自然听觉体验。三者分别解决拾取、表示与重放,组合后让虚拟人声可以在舞台声场前方被定位和移动。
具体做法是在舞台声场正面上布置 3 维系统:五只四面体扬声器加自编的全息音响软件,思路借鉴波场合成,用扬声器阵列重建自然听觉。录音端用同样四面体形状的四话筒配置包围每把大提琴,论文称之为四面体录音法,演奏员可自由动作而不必对准传统拾音焦点,环境、演奏者与乐器共同参与音色。
下表核对扩声与拾音的数量事实,这是复现时必须照单采购或改写的部分。
表 4 要回答的是:舞台上有多少发声点、对每件乐器用了多少拾音通道,指标方向是数量是否与 3 维表示匹配。
| 环节 | 设备与数量 | 作用 |
|---|---|---|
| 重放端 | 5 只四面体扬声器加自编全息软件 | 在舞台声场正面实现 3 维定位 |
| 拾音端 | 每把大提琴 4 支话筒,四面体布局 | 直接得到与环境声兼容的 3 维镜像 |
表中 5 只与 4 支的数字来自论文陈述。它支持的是拾音形状与重放形状对应的设计逻辑,代价是系统依赖特定礼堂与定制扬声器,换场地必须重新适配。论文附录有现场照片,但未报告不同座位的声压均匀度,因此不能把沉浸感推广为全场一致。
两个结局分别证明了什么
论文的结论不是模型跑分,而是两种权力结局。前者是人类被迫成为人工智能系统中的编码参数;后者是技术仍在作曲家手下服务,作曲家通过习得技能有意识地使用它。历史调查显示表现需求推动工具发展,人工智能的出现则反过来向作曲家提问,这是全文反复强调的转折。
证据强度取决于可追踪性。新作的文本生成、修订者、献声者、首演者与录音地点都有具名记录,曲式与配器选择能与文本性格一一对应;前者的学习与吞噬更多是戏剧解读,论文承认需要把作品当作怪诞场景或窗口来体验。两者都成立,但成立方式不同:一个靠可核查的制作链,一个靠舞台隐喻的可读性。
未胜出的选项也被留下:布列兹式高度自动化触发、诺诺式经济而可解释的现场处理,都说明实时范式内部仍有多种伦理位置。论文没有测量听众是否真的感到疏离或净化,也没有比较不同扩声条件下的理解度,这是结果外推时必须守住的边界。
换掉关键一步会发生什么
虽然没有消融实验的数字表,但论文提供了可推理的对照。如果去掉要求回避人名与性别的约束,3 段记忆就会落回具体情节,标题中非人记忆的多重游戏将被削弱;如果去掉变声替身,陌生感提示消失,听者更难意识到机器参与情绪时刻;如果去掉两段电子间奏,电子声部将退回全程伴随,舵手的独立性无从体现。
同样,如果把四把大提琴换成混合编制,异音同构的细微差异会被音色级差掩盖,超级乐器的整体感需要重写;如果把舞台 3 维声场换成立体声,虚拟人声的物化位置将难以成立。这些不是实测差值,而是按论文机制可预期的走向,引用时要标明是推断而非报告。
对研究生而言,这个思考的价值在于明确每个选择的代价:约束带来可读性,替身带来间离,间奏带来独立,同质编制带来织体控制,3 维系统带来场地依赖。拿掉任何一项,伦理主张的证据链都会变薄。
结论在什么条件下才成立
首先是聆听条件。作品为音乐厅设计,依赖特定扬声器与话筒布局,换成耳机或立体声回放时,空间戏剧与人声定位的论证不再直接有效。其次是人力条件。新作由学院师生完成首演与声音导向,包含持续的技能习得过程;若使用者只调用现成工具而不理解底层过程,论文批判的 prosumer 式消费仍会发生,对话主张即不成立。
其次是证据类型。文本生成只展示了片段对话的译文,三份完整文本在附录备查,但提示迭代次数与失败分支没有量化;人声录制与变声的具体参数未公开;没有听众实验、没有误判率或延迟测量。因此不能声称该方法提升了可懂度、沉浸感或创作效率。
最后是来源可达性。论文提到的外部链接中,本次核验仅能确认变声服务与作曲家作品页当前可达,聊天模型官网本次不可用,比赛存档页本次未能确认可达。来源未确认不构成技术缺陷,但在复现前应重新确认模型版本与工具可用性。
要复现这条路第一步做什么
值得尝试的时机是:你已有弦乐演奏资源与音乐厅档期,愿意把技术学习计入创作时间,并能接受文本与声音的多次返工。若只想快速得到成品配乐,这条重过程的路线并不划算。
第一步不是买设备,而是建立可记录的工作流:用固定文档保存每次追问、分支刷新与人工修订,明确哪句来自模型、哪处被人类改掉;同时确定 3 段文本的约束清单,例如回避专名、聚焦情绪而非情节。录音时采用包围式多话筒并保留原始 4 通道,变声只做 prosody 一致的音色替换,且在总谱上标出每次干扰的进入点。
还需要补的验证是:至少做一次不同座位的试听记录,检验虚拟人声定位是否如预期;至少请不知情的听者辨认何处出现变声,检验间离是否可感知;若更换场地,重新记录扬声器布局与适配方法。关键信息条件是保留文本、声音与空间 3 条链路的对应关系,缺一即无法支撑对话的说法。
如何一句话记住全文
把全文压缩为可复述的步骤:从时间模型理解电子音乐史,经助手分工看到黑箱难题,再用两部作品对比吞噬与对话,最后落到一部可核查的新作——3 段机器记忆经人类修订变为默剧曲式,四把大提琴以细微差异织成整体,台上电声演奏者以两段间奏夺回独立,3 维拾音与重放把虚拟人声放在舞台上。
容易产生的误解是把调用大模型当成训练了模型,或把定制扬声器的数量优势当成艺术优势。前者混淆了预训练与创作劳动,后者混淆了场地依赖与普遍效果。论文的伦理建议恰好针对这两点:保持对架构的开放,保持对过程的记录。
最终的适用边界是:只有当作曲家能说清每一步处理了什么对象、解决了什么困难、付出了什么代价,技术才算被重新变为创作工具。离开音乐厅条件、教育投入与可核查链条,这个结论不应被夸大。
📎 论文与评分元数据
排名:后50% | 文档类型:应用研究 | arXiv 原文
⚖️ 评分明细
评分属于系统判断,不是论文实验结果;八维数值与总分见页首,原始审计记录保留在后端。
评分规则:type-aware-v1
评分模型:muse-spark-1.3-contributor
评分请求协议:openai_responses
