如何把知识笔记结构化:通过层次化的上下文约束学习长期音乐表征
如何把知识笔记结构化:通过层次化的上下文约束学习长期音乐表征
学习符号音乐表征,特别是具有概率解释的分解表征,已被证明对音乐理解和生成都有好处。然而,大多数模型只适用于短期音乐,而学习长期音乐表征仍然是一项具有挑战性的任务。我们已经看到一些研究试图以端到端的方式直接学习层次化的表征,但是这些模型并不能达到预期的效果,而且训练过程也不稳定。在本文中,我们提出了一种新的方法,通过上下文约束来学习长期的符号音乐表征。首先,我们使用对比学习法,通过约束其与短期表征(由一个现成的模型提取)的差异来预训练长期表征。然后,我们通过一个分级预测模型对长期表征进行微调,这样一个好的长期表征(例如,一个8条的表征)可以重建相应的短期表征(例如,8条范围内的2条表征)。实验表明,我们的方法稳定了训练和微调的步骤。此外,设计的上下文约束对重建和拆分都有好处,明显优于基线的表现。
《Learning long-term music representations via hierarchical contextual constraints》
论文地址:http://arxiv.org/abs/2202.06180v1