分布式信源編碼研究.pdf

1、在傳感器網絡、多視角視頻壓縮系統(tǒng)等應用領域，傳感器節(jié)點能量有限，同時計算能力受到限制，所以傳統(tǒng)的信源編碼，如視頻編碼，并不適用于這些應用領域。為了能夠設計出編碼簡單的傳感器節(jié)點，分布式信源編碼采用了編碼器之間互不協作的編碼方式，每個編碼器只需要對自己觀測到的信源進行獨立編碼，解碼器在獲得所有的壓縮碼流之后通過信源之間的相關性來聯合解碼。采用這種互不協作的編碼方式可以給編碼器帶來兩個方面的增益：其一，編碼器之間沒有通信開銷：其二，由于編碼

2、器只對自己觀測到的信源進行獨立編碼，不需要計算信源之間的相關性，所以可以有效的降低編碼器的計算量。盡管互不協作的編碼方式可以給編碼器帶來上述增益，但同時會給模型的其他模塊帶來一定的代價。代價一，與相互協作的編碼方式相比，分布式編碼模型中的編碼器互不協作，所以需要用更多的比特來描述信源，這部分增加的比特會加重編碼器和解碼器之間的通信開銷。如何估計這部分額外增加的比特是本文的研究內容之一。代價二，信源之間是有統(tǒng)計相關性的，但分布式編碼采用的

3、是互不協作的編碼方式，所以計算信源相關性的工作就從編碼端轉移到解碼端，增加了解碼器的計算復雜度。針對這種情況，本文的第二個研究內容是從實際的分布式編碼方案入手，針對基于壓縮感知的分布式編碼模型，提出新的信號重建算法，有效的降低算法的計算量。
　　本文的第一個工作是估計了采用互不協作的編碼方式所增加的編碼器與解碼器之間的通信開銷。這部分工作主要是針對Wyner-Ziv情況下的分布式編碼模型，其特點是解碼器可以獲得與信源統(tǒng)計相關的邊信

4、息。在Wyner-Ziv情況下的分布式編碼模型中，如果只有一個信源時，模型就退化為Wyner-Ziv編碼；如果解碼器沒有邊信息時，模型就退化為傳統(tǒng)的分布式編碼。本文首次針對該模型定義了碼率損失，分別在信源和邊信息服從任意分布以及聯合高斯分布的情況下，通過計算條件率失真函數和理論推導，得到了相應的碼率損失的上界。按照信源和邊信息服從不同的概率結構，具體貢獻包括：
　　(1)對于服從任意分布的信源和邊信息，本文首先估計了條件聯合率失真

5、函數的上界和下界，在此基礎上，針對不同的重建失真，通過數學推導，得到了碼率損失的上界，并證明了總碼率的損失小于1比特/符號，由此證明了，在Wyner-Ziv下的分布式編碼中，互不協作的編碼方式所額外帶來的編碼器與解碼器之間的通信開銷不會超過1比特/符號。
　　(2)對于服從聯合高斯分布的信源和邊信息，本文在計算條件率失真函數的基礎上，通過估計關鍵參數K1和K2，得到了碼率損失的上界。該上界僅依賴于信源分布的參數，獨立于信源的重建失

6、真。
　　(3)將本文的結論退化到傳統(tǒng)的分布式編碼模型中，針對聯合高斯信源，本文在重建失真較大時，將Feng的上界從2.5比特/符號降低到1.5比特/符號；在重建失真較小時，將Feng的上界從2.5比特/符號降低到1.5+(1/2)log2(3)比特/符號。
　　采用互不協作的編碼方式不但會增加編碼器與解碼器之間的通信開銷，而且會增加解碼器的計算復雜度。本文的第二個工作是從實際的分布式編碼算法出發(fā)，分析了分布式壓縮感知模型。

7、在這個模型中，編碼器采用了壓縮感知技術，只需要對信號進行線性變換，這種編碼方案非常適合傳感器網絡對節(jié)點的編碼要求，在解碼端，Baraniuk等人提出了基于貪婪追蹤的信號重建算法。針對這種貪婪追蹤算法，本文從單個信號入手，把感知矩陣看成詞典，通過幾何化詞典，誘導出詞典的圖結構。在圖結構的研究基礎上，本文提出了幾何搜索算法，并分析了圖結構的相關性質。具體貢獻包括：
　　(1)幾何化詞典。把詞典中的每個詞都看成是空間中單位球面上的一個點

8、。從這個觀點出發(fā)，定義了由詞典生成的凸多面體，通過凸多面體，誘導出詞典的圖結構。圖結構本質上是詞典的拓撲結構，它是由凸多面體中的頂點和邊組成的。
　　(2)如何使用圖結構來減少信號重建時的計算量?針對單個信號時的重建算法，本文提出了基于圖結構的幾何搜索算法，避免了原算法中的全局搜索，可以有效的降低計算量。通過研究凸多面體的性質，本文證明了在圖結構是已知的條件下，幾何搜索算法可以找到最優(yōu)值。在此基礎上，本文將幾何搜索算法推廣到多個信

9、號的情況，有效的降低了信號重建的計算量。
　　幾何搜索算法的關鍵是需要事先獲得詞典的圖結構。為此，本文針對構造詞典的圖結構，提出并解決了如下的兩個問題。
　　(3)圖結構中包含多少條邊?對于擁有n個詞的詞典，本文從隨機幾何學的角度出發(fā)，估計了圖結構中邊的個數。當n個詞服從單位球面上的均勻分布時，本文證明了邊的個數的期望值幾乎就是n的線性關系。該結論說明我們可以用幾乎O(n)量級的空間來有效的存儲圖結構。本文的結果同時部分回答

10、了Reitzner的猜想，他的猜想是(參考文獻[1]中第二章第四節(jié))：當n個隨機向量服從凸體邊界(theboundaryofaconvexbody)上的給定分布時，在這n個向量所生成的凸多面體中，邊個數的期望值是cn+o(n)，其中c是和凸體有關的參數。我們的結論在凸體邊界是球面的情況下證明了Reitzner的猜想。
　　(4)如何生成圖結構中的邊?因為在空間Rd中擁有n個頂點的凸多面體至少有n[d/2]個超平面，所以使用凸多面體