Listen

Description

AI寫歌之前,得先學會「讀」聲音!這集小皮介紹神經音訊編碼器(Neural Audio Codec):一秒聲音有兩萬四千個數字,太多太細,所以要用編碼器壓成密碼、再用解碼器還原——代表作有Google 2021年的SoundStream和Meta 2022年的EnCodec(最低1.5 kbps)。密碼怎麼來?RVQ(殘差向量量化)用好幾本密碼本,第一本抓輪廓、下一本補誤差,一層一層補細節;2024年的X-Codec在進密碼本前先加入HuBERT的語意特徵,讓token更好懂,開源歌曲生成模型YuE就用它的精簡版。這些音訊token,就是MusicGen、YuE等音樂生成AI的基礎。

參考資料:
EnCodec (Meta AI) - GitHub:https://github.com/facebookresearch/encodec
High Fidelity Neural Audio Compression (EnCodec) - arXiv:https://arxiv.org/abs/2210.13438
SoundStream: An End-to-End Neural Audio Codec - arXiv:https://arxiv.org/abs/2107.03312
Codec Does Matter (X-Codec) - arXiv:https://arxiv.org/abs/2408.17175
X-Codec - GitHub:https://github.com/zhenye234/xcodec
YuE - GitHub:https://github.com/multimodal-art-projection/YuE