信號(hào)處理中的矩陣運(yùn)算

1、 EE731講義：信號(hào)處理中的矩陣運(yùn)算麥克馬斯特大學(xué)電子與計(jì)算機(jī)工程學(xué)院James P. Reilly@，2000.2.2前言： 前言：本書(shū)共包含十章，將向讀者介紹線性代數(shù)在現(xiàn)代工程和科學(xué)應(yīng)用中的基本原則，包括信號(hào)處理、控制理論、過(guò)程控制、應(yīng)用統(tǒng)計(jì)學(xué)以及機(jī)器人技術(shù)等。我們會(huì)從讀者角度出發(fā)，考慮了解背景，簡(jiǎn)答介紹一些線性代數(shù)、概率論與數(shù)理統(tǒng)計(jì)、和傅里葉變換的知識(shí)。第一章建立一些本書(shū)余下部分所要用到的基本思想。首先，介紹一些基本的概念，如線

2、性無(wú)關(guān)、子空間、零空間、秩、值域等以及這些概念之間的相互聯(lián)系。然后，介紹自相關(guān)和信號(hào)的協(xié)方差矩陣的概念，最后對(duì)其進(jìn)行討論和解讀。第二章講述所謂的特征分解 ，也即是最基礎(chǔ)的矩陣分塊，重點(diǎn)在于直觀的展示如何完成分塊。書(shū)中會(huì)舉例說(shuō)明怎樣通過(guò)K-L變換應(yīng)用特征分解，這樣，讀者就可以初步了解這種分塊法的重要性質(zhì)。之后再把K-L變換法一般化，延伸到變換編碼中。第三章介紹單值分塊法（SVD），這與矩陣的特征分解緊密聯(lián)系。書(shū)中分析了這兩種分塊法的聯(lián)系，

3、并且探討了單值分塊法（SVD）的多個(gè)性質(zhì)。第四章略。第一章 第一章 基本概念 基本概念本章節(jié)的目的有兩個(gè)，一是復(fù)習(xí)線性代數(shù)中的基礎(chǔ)概念，而是為書(shū)中余下部分做鋪墊。首先，討論基本構(gòu)件，如矩陣乘法的概述、線性無(wú)關(guān)、子空間、相關(guān)的概念以及矩陣的秩等，在此基礎(chǔ)上導(dǎo)出線性代數(shù)的精確性。之后討論矢量規(guī)范以及矩陣乘法運(yùn)算的多種解釋?zhuān)詈笠越榻B行列式結(jié)束本章。1.1表示法 表示法書(shū)中若沒(méi)有特別聲明，默認(rèn)矩陣A是 型，矩陣中的元素都是實(shí)數(shù)，表示為 n

4、m? n m A ? ? ?，這表明矩陣A中的元素都是實(shí)數(shù)的笛卡爾積，總共做 n m?次，每次結(jié)果對(duì)應(yīng)相應(yīng)的元素。相似地， 表示A是 型，其中的元素都是復(fù)數(shù)， \ ? ? ? C A n m?表示將A包含m行、n列。 n m?同理， ) ( ? C m ? ? a表示一個(gè)m維實(shí)（復(fù)）矢量，矢量的維表明矢量的長(zhǎng)度，即包含m個(gè)元素。相似的， ) (c a ? ?1.2.4矩陣的左乘和右乘 矩陣的左乘和右乘我們通過(guò)分析一些基本的概念來(lái)區(qū)分左乘

5、與右乘的區(qū)別。在這方面上，令矩陣B左乘A得到Y(jié)=BA（假定所有的矩陣都具有合適的分塊），則這種乘法表示B只對(duì)A的列向量相乘來(lái)得到乘積的列。也就是說(shuō)，Y的每一列 都是A的列的變換，即 i y i i a y B ?。同樣地，若定義矩陣C右乘A得到X=AC，則這種乘法表示C只對(duì)A的行起作用，這是因?yàn)槌朔e的每一行 都是A的行的變換，即 ,其中 為A的第i行。 T i x C T iT i a x ? T i a例： 例：假設(shè)有一個(gè)合適維數(shù)的標(biāo)

6、準(zhǔn)化矩陣，已知標(biāo)準(zhǔn)化矩陣的乘法會(huì)引起旋轉(zhuǎn)運(yùn)算，運(yùn)算QA使A的列轉(zhuǎn)置，AQ引起行轉(zhuǎn)置。有另一種方法來(lái)理解左乘和右乘。同樣，讓B左乘A得到Y(jié)=BA，再根據(jù)式（2），Y的第j列 是矩陣B的列的線性組合，其系數(shù)為A的第j列。同理，對(duì)于X=AB，X的第i行 j y T i x是B的行的線性組合，其系數(shù)為A的第i行。以上任何一種理解都是等效的，合理的選用一種表示形式是掌握線性代數(shù)的重要步驟。1.3 1.3線性代數(shù)的基本原則 線性代數(shù)的基本原則1.3

7、.1 1.3.1線性無(wú)關(guān) 線性無(wú)關(guān)假設(shè)有一組n個(gè)m維向量 ，其中 } ..., , { 1 n a a n i mi ,..., 1 , ? ? ? a，這些向量在條件1下是線性無(wú)關(guān)的：（4） 0 ,..., 且且 且且 , 11? ? ??nnjj c c c 0 aj總之，等于說(shuō)（4）式表明，只有滿足當(dāng)向量的系數(shù)全為0時(shí)，??njj c1j a才等于0向量的條件下，向量 才是線性無(wú)關(guān)的。 } ..., , { 1 n a a當(dāng)n維空