基于神經(jīng)網(wǎng)絡(luò)的語音識別聲學(xué)模型壓縮研究.pdf

1、自動語音識別是人機(jī)交互與通信的關(guān)鍵組成部分，其主要目的是使機(jī)器“聽懂”人類所說的語音，將語音信號轉(zhuǎn)變?yōu)槲谋拘盘?。聲學(xué)模型在語音識別系統(tǒng)中占據(jù)著重要地位。傳統(tǒng)的語音識別系統(tǒng)主要使用基于高斯混合模型和隱馬爾可夫模型(Hidden Markov Model，HMM)的聲學(xué)模型。近些年來，隨著深度學(xué)習(xí)的迅速發(fā)展，與傳統(tǒng)的高斯混合模型相比，基于深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks，DNN)的聲學(xué)模型給性能提升帶來了突破性進(jìn)展。然

2、而，基于深度神經(jīng)網(wǎng)絡(luò)的聲學(xué)模型包含大量的模型參數(shù)以及顯著的計(jì)算復(fù)雜度，這給深度神經(jīng)網(wǎng)絡(luò)應(yīng)用于資源受限的移動端設(shè)備造成了巨大的困難。因此，基于深度神經(jīng)網(wǎng)絡(luò)的聲學(xué)模型壓縮技術(shù)是為了降低模型的參數(shù)量與計(jì)算復(fù)雜度，從而促進(jìn)語音識別系統(tǒng)應(yīng)用于資源受限的移動端設(shè)備。
　　本文是主要圍繞基于深度神經(jīng)網(wǎng)絡(luò)的聲學(xué)模型，進(jìn)行模型壓縮技術(shù)的研究。首先，從模型參數(shù)量角度，針對基于DNN和全卷積神經(jīng)網(wǎng)絡(luò)(Fully Convolutional Neural

3、 Networks，F(xiàn)CNN)的聲學(xué)模型，我們提出了基于激活掩碼的方法，在網(wǎng)絡(luò)訓(xùn)練過程中分析與評價(jià)網(wǎng)絡(luò)模型中神經(jīng)元的重要性，從而移除對網(wǎng)絡(luò)模型輸出貢獻(xiàn)較小的神經(jīng)元，實(shí)現(xiàn)每個隱層的神經(jīng)元數(shù)目的自動學(xué)習(xí)和減少網(wǎng)絡(luò)模型參數(shù)量?；陂L短時(shí)記憶(Long Short-Term Memory，LSTM)的遞歸神經(jīng)網(wǎng)絡(luò)聲學(xué)模型，我們提出了平滑門來分析與評價(jià)LSTM模型中記憶單元的重要性，移除對網(wǎng)絡(luò)輸出影響較小的記憶單元，從而達(dá)到壓縮網(wǎng)絡(luò)模型規(guī)模的目的

4、。實(shí)驗(yàn)結(jié)果表明在確保語音識別性能的基礎(chǔ)上，這兩種方法可以有效地壓縮網(wǎng)絡(luò)模型的寬度。其次，從模型參數(shù)精確度角度，基于DNN和LSTM的聲學(xué)模型，本文分別探索了參數(shù)定點(diǎn)化和整數(shù)化對語音識別系統(tǒng)性能的影響，實(shí)驗(yàn)結(jié)果表明定點(diǎn)數(shù)和整數(shù)可以有效地降低神經(jīng)網(wǎng)絡(luò)模型的參數(shù)精確度和復(fù)雜度，而且沒有造成識別性能損失。最后，基于連接時(shí)序分類(Connectionist Temporal Classification，CTC)模型的解碼速度優(yōu)勢，采用基于平滑門