从大脑活动中理解并重构语音,对于推动神经科学及脑机接口(BCI)研究至关重要。尽管近年来取得了一定进展,但现有的“脑-语音”转换方法仍受限于神经表征耦合、解码目标粒度过细以及泛化能力差等问题。为应对这些挑战,我们提出了一种结合表征量化与解耦技术的新型框架。该框架不学习特定于大脑的离散单元,而是直接将脑磁图(MEG)信号与预训练神经音频编解码器的码本进行对齐。为了平衡表征能力与解码复杂度,我们引入了一种结合码本聚类与时间池化操作的离散对比损失函数。此外,我们将语音分解为韵律、内容和音色三个维度,并对这些子空间分别进行解码,从而简化了学习过程并提高了解码精度。在两个公开MEG数据集上的实验表明,该方法在受试者内部及跨受试者场景下均表现出色,并在韵律相关指标及感知质量指标上实现了显著提升。我们的研究成果为实现更可靠的神经语音重建提供了一条具有理论依据的途径,并在辅助通信及脑机接口技术领域展现出广阔的应用前景。

中文标题:基于量化与解耦的神经语音重建
英文标题:Quantization and disentanglement for cross-modal alignment in neural speech reconstruction from brain activity
论文作者:刘澈,杜长德,陈晓宇,何晖光