生物神經(jīng)網(wǎng)絡系統(tǒng)的突觸連接的可塑性與學習記憶功能

1、1,生物神經(jīng)網(wǎng)絡系統(tǒng)的突觸連接的可塑性與學習記憶功能,目錄,一、生物神經(jīng)網(wǎng)絡系統(tǒng)二、神經(jīng)突觸可塑性動力學研究三、神經(jīng)學習記憶功能研究四、一些思考,2,前言,生命體主要活動： 物質運動--- 機械、電磁、化學等作用 信息活動--- 生長信息、認知信息、集群信息 這兩種活動 密切相關，為此需要深入研究它們的相互作用。生物神經(jīng)網(wǎng)絡系統(tǒng)的動力學研究突出地反映這個問題。復雜網(wǎng)絡系統(tǒng)的理論已經(jīng)重要成果，當前的一個發(fā)展趨

2、勢是在生物網(wǎng)絡系統(tǒng)中的應用。,ian3,4,一、生物神經(jīng)網(wǎng)絡系統(tǒng),神經(jīng)元神經(jīng)元集群腦的特定區(qū)域皮層的大規(guī)模組織全腦,大腦,,生物神經(jīng)網(wǎng)絡系統(tǒng)概述（一）,生物神經(jīng)系統(tǒng)作為產(chǎn)生感覺、學習、記憶和思維等認知功能的器官系統(tǒng)，是多層次的超大型信息網(wǎng)絡，也是目前發(fā)現(xiàn)的最復雜的非線性網(wǎng)絡系統(tǒng)。 神經(jīng)信息傳導和整合過程是通過神經(jīng)網(wǎng)絡系統(tǒng)實現(xiàn)的，因此神經(jīng)系統(tǒng)的網(wǎng)絡動力學行為與其信息活動和認知功能密切相關。為了進一步探討腦神經(jīng)

3、信息傳導過程和認知、思維、控制等功能的需要，必須深入研究神經(jīng)網(wǎng)絡系統(tǒng)的豐富動力學問題。,6,7,生物神經(jīng)網(wǎng)絡系統(tǒng)概述（二）,生物神經(jīng)元的類型和連接形式的多樣性使得神經(jīng)網(wǎng)絡系統(tǒng)具有復雜的拓撲結構和動態(tài)特性，表現(xiàn)出很強的非線性和復雜性。 在整個神經(jīng)系統(tǒng)中，神經(jīng)元對信息的反應是由神經(jīng)元集群共同完成的，而不是單一神經(jīng)元的功能，因此我們需要從復雜網(wǎng)絡動力學的觀點去考察耦合神經(jīng)元系統(tǒng)放電的復雜活動和時空動力學行為，探索神經(jīng)系統(tǒng)如何對

4、外界的信號進行加工、傳導和整合，進而深入理解神經(jīng)高級認知功能。,8,生物神經(jīng)網(wǎng)絡系統(tǒng)特點,生物神經(jīng)網(wǎng)絡系統(tǒng)首先將外界的各種刺激轉化為神經(jīng)電信號，通過 神經(jīng)信息傳導和整合過程，實現(xiàn)生物的認知和運動控制的功能。 其復雜性表現(xiàn)為以下方面：海量維數(shù)——神經(jīng)元和突觸的數(shù)目極其巨大（如人腦約有10^11個神經(jīng)元，每個神經(jīng)元有10^3-10^4個突觸）多種類型的神經(jīng)元多層次——從分子層次直到認知和心理活動層次；每個層次都有

5、 十分復雜的動力學行為，且彼此緊密相關多時間尺度——從電脈沖的毫秒級，到一般感覺的秒級，到學習、記憶、辨識等的更長時間多功能——包括視、聽、嗅、味等感官和運動系統(tǒng)的功能多影響因素——神經(jīng)元和突觸參數(shù)、網(wǎng)絡結構參數(shù)、時滯、噪聲等神經(jīng)信息編碼與解碼高度的魯棒性、自調節(jié)性、自學習能力,生物神經(jīng)網(wǎng)絡系統(tǒng)分類（一）,微觀　分子層次 ； 細胞層次；介觀 神經(jīng)元集群（耦合振子集合 ）層次； 宏觀

6、 器官和運動控制系統(tǒng)層次,9,10,生物神經(jīng)網(wǎng)絡系統(tǒng)分類（二）,結構性網(wǎng)絡(structural network )：從神經(jīng)元之間直到腦功能區(qū)之間的連接關系的大腦網(wǎng)絡生理解剖結果功能性網(wǎng)絡(functional network) ：描述神經(jīng)元集群（例如皮層區(qū)域）各節(jié)點之間的統(tǒng)計性連接關系所產(chǎn)生的信息結果效率性網(wǎng)絡(effective network) ：描述皮層神經(jīng)網(wǎng)絡各節(jié)點非線性動力學行為之間的相互影響或信息流向，比功能性網(wǎng)

7、絡更強調節(jié)點之間相互因果作用 結構性或功能性網(wǎng)絡可以利用圖論方法, 同時采用各種技術手段（包括EEG，MEG，MRI，fMRI，CT，PET）和理論模型及其計算仿真一起去拼接出大腦網(wǎng)絡的圖景。但效率性網(wǎng)絡的研究尚少。,11,神經(jīng)動力學（計算神經(jīng)科學）,神經(jīng)動力學（計算神經(jīng)科學）研究生物神經(jīng)元網(wǎng)絡的放電和信息活動,以及神經(jīng)認知行為的動力學問題是非線性動力學、網(wǎng)絡科學和神經(jīng)科學的跨學科交叉研究領域。建立神經(jīng)科學的“理論、

8、計算和實驗相結合”的新研究模式。向神經(jīng)系統(tǒng)的放電活動、信息編碼、網(wǎng)絡及認知行為提出了一系列嶄新研究方向和問題。,12,,,,,神經(jīng)醫(yī)學與生物控制工程,生物神經(jīng)元放電和編碼活動,生物控制科學,生物神經(jīng)復雜網(wǎng)絡,智能機器人,神經(jīng)生理解剖結構,神經(jīng)認知科學,神經(jīng)計算機,,,,,,神經(jīng)醫(yī)學,13,二、神經(jīng)突觸可塑性動力學研究,突觸概述突觸可塑性樹突對突觸可塑性的影響時滯、噪聲對神經(jīng)網(wǎng)絡系統(tǒng)的放電同步和時空行為的影響,突觸概述,神經(jīng)元之間

9、的信號傳遞通過精細的突觸結構。神經(jīng)元通過突觸連接進行神經(jīng)信息傳遞和轉導，以實現(xiàn)細胞間的信息交流。根據(jù)神經(jīng)元的耦合機理，突觸傳遞分為電突觸和化學突觸兩類，再按響應特性又可分為興奮型和抑制型。突觸動力學用以刻畫在突觸中電信號和化學信號的相互轉化，信號的接收和傳遞等動力學過程。,14,15,神經(jīng)元間的信號傳遞方式：突觸,突觸,16,電突觸與化學突觸,突觸耦合的數(shù)學模型,電耦合的數(shù)學模型為：Ie=ge(vpre(t – d) – vpost

10、(t))，這里 ge是耦合強度，vpre 和 vpost是突觸前和突觸后膜電位， d表示突觸延遲。化學耦合有多種數(shù)學模型，如 Isyn = gsyn(v – vsyn) H(vpre(t - d) –vthresh) 這里 gsyn是耦合強度，vpre 和 vsyn是突觸前和突觸膜電位， vthresh是突觸閾值，d表示突觸延遲。,17,神經(jīng)突觸可塑性,真實神經(jīng)網(wǎng)絡系統(tǒng)通常是動態(tài)的。為此我們不僅要考慮神經(jīng)元

11、動力系統(tǒng)和神經(jīng)網(wǎng)絡拓撲結構的的高度非線性和復雜性，還要討論神經(jīng)網(wǎng)絡系統(tǒng)的時變性、魯棒性和易損性等問題，其中涉及的一個重要問題是學習和記憶功能，這與突觸可塑性研究密切相關。,18,突觸可塑性的實驗基礎,Bliss（1973)在麻醉的家兔海馬上發(fā)現(xiàn)了長時程突觸增強效應（long-term potentiation, LTP)，單個脈沖測試引起群體峰電位或群體興奮性突觸后電位增高。Nicoll et al（1988）通過實驗驗證了聯(lián)合型LT

12、P。后來還發(fā)現(xiàn)突觸后電位也能產(chǎn)生與長時程突觸增強的相反方式，使用的刺激方式是長時間的低頻刺激，持續(xù)幾百次即可引起興奮性突觸后電位的持續(xù)降低(long-term depression, LTD) 。這些都為突觸的變化提供了可靠的證據(jù)。神經(jīng)突觸的耦合系數(shù)受到突觸前后的神經(jīng)元活動的相互作用的影響而隨時間變化，稱為突觸的可塑性。,19,Hebb突觸可塑性假說,20世紀中葉，神經(jīng)心理學家D. O. Hebb根據(jù)長期實驗研究的結果，提出了學習過

13、程中突觸運作的基本規(guī)律，即”當某一突觸兩端的神經(jīng)元同步激活（同為興奮或同為抑制）時，該連接強度增強，反之應減弱”的著名論斷，被稱為Hebb假說。,20,The Hebbian postulate for cellular learning,“When an axon of cell A is near enough to excite B and repeatedly or persistently takes part in fir

14、ing it, some growth process or metabolic change takes place in one or both cells such that A’s efficiency, as one of the cells firing B, is increased.”,21,Hebb突觸學習規(guī)則,令神經(jīng)細胞A和B的電發(fā)放為Va和Vb，它的突觸連接系數(shù)為Wab。由于細胞A和細胞B的發(fā)放，引起它們之間突觸聯(lián)

15、系有個增量△Wab，根據(jù)Hebb規(guī)則有數(shù)學表達式： △Wab = f（Va，Vb）， 其中f表示某種函數(shù)關系。 Hebb的突觸學習律并沒有直接告訴我們這個函數(shù)f的形式如何。把神經(jīng)元作為神經(jīng)系統(tǒng)的基本單元，神經(jīng)元之間的突觸系數(shù)作為一個變數(shù)?，F(xiàn)在借助數(shù)學，計算機科學和物理學理論，提出一些學習和記憶的數(shù)學理論，這些理論都是建立在突觸可塑性基礎之上。,22,Hebb的突觸可塑性假說的實驗

16、驗證,Hebb關于學習和記憶的突觸可塑性變化假說，在當時僅僅是一種猜想。而后，形態(tài)學研究以及電生理實驗開始證實這一假說，如Bliss（1973）等的工作。半世紀以來的神經(jīng)生理學的實驗研究所取的證據(jù)都傾向于支持Hebb突觸修飾的假說。還有一些實驗表明，隨著某一神經(jīng)回路的多次應用，該回路上的突觸數(shù)量增多，體積變大，甚至還長出新的突觸出來，學習和記憶功能得到顯著加強。,23,Hebb的突觸可塑性假說的實驗驗證（續(xù)）,近年來，特別是Markra

17、m、Bell、Amzica、Zhang及Bi 等人的實驗研究工作給出了較為完整的和準確的關于Hebb突觸的實驗證明，并給出了突觸修飾對于時間的敏感性以及發(fā)現(xiàn)了Hebb猜想中并未明確的突觸抑制（depression）機制。這些工作顯示：突觸可塑性對時間信號具有敏感性；正相關的突觸后放電將引起突觸聯(lián)系的增強，而負相關的突觸后放電將引起突觸聯(lián)系減弱。,24,樹突對突觸可塑性的影響,目前的神經(jīng)元網(wǎng)絡建模中，大多數(shù)連接方式?jīng)]有考慮空間方面的影響。

18、實際上，突觸可塑性是由突觸前后的瞬時動作電位支配的，而突觸后電位又受到樹突棘結構性質的影響，因此樹突的可興奮性必然反映到突觸可塑性規(guī)律上面；同樣地，突觸在樹突上的位置也會間接地影響其可塑性規(guī)律。反之，突觸可塑性當然影響樹突的工作特性。,25,樹突對突觸可塑性的影響（續(xù)）,結論：在生物神經(jīng)網(wǎng)絡模型時，必然存在突觸可塑性與樹突的可興奮性的相互作用回路特性。樹突的電性質不是靜態(tài)的，要受到神經(jīng)調制機理和突觸活動的影響，因此突觸學習規(guī)律會隨著

19、樹突響應特性函數(shù)的 形式發(fā)生動態(tài)的變化。,26,三、神經(jīng)學習記憶功能研究,學習和記憶是動物和人類的生存必需的重要腦基本功能，是兩個互相聯(lián)系的神經(jīng)過程。學習是指獲得外界信號的神經(jīng)過程，而記憶是將獲得的信息儲存和讀出的神經(jīng)過程。 學習和記憶本身也不是單一過程，可以包含不同的神經(jīng)過程： 學習可分為非聯(lián)合型學習和聯(lián)合型學習。 記憶可分為短時記憶和長時記憶；陳述性記憶和非陳述性記憶等。,27,H

20、ebb理論與學習記憶功能,突觸可塑性是學習和記憶的基礎。 Hebb提出的關于突觸傳遞變化的理論，設想在學習過程中突觸發(fā)生某些變化，導致突觸連接的增強和傳遞效能的提高。他提出重復持續(xù)的活動可以引起神經(jīng)元連接的長時程變化并固定起來，即學習能力的增強。 他后來又進一步指出，記憶不是兩個神經(jīng)元之間連接的變化，而是同時被激活的神經(jīng)元集合的持續(xù)活動可以使細胞的相互聯(lián)系加強，從而實現(xiàn)對刺激的記憶。

21、 神經(jīng)電脈沖到達突觸的時間是離散的，空間分布也是復雜的，因此突觸可塑性是統(tǒng)計的結果。,28,Hebb學習理論的發(fā)展（一）,Hebb突觸修飾假設無論對于神經(jīng)科學還是計算神經(jīng)科學都是重要的。 根據(jù)Hebb突觸假說，發(fā)展了各種突觸變化的學習律，如經(jīng)典的Hebb學習律、加強學習律、相關學習律、協(xié)方差律、BCM律。這幾種學習律在具體執(zhí)行時往往會發(fā)生突觸系數(shù)無限增大，從而使系統(tǒng)不穩(wěn)定。限于神經(jīng)生理學的研究，Hebb學習律還存在諸多問題，如Hebb

22、突觸的聯(lián)系效率只能增長卻無上限等。這在神經(jīng)生理學上是沒有依據(jù)的。Hebb學習律的改進和發(fā)展依然是今后突觸可塑性研究的重要問題之一。,29,Hebb學習理論的發(fā)展（二）,Oja（1982）為了避免不穩(wěn)定性，提出了一種非監(jiān)督學習律，稱之為“Oja學習律”。Oja 學習規(guī)則作為Hebb 學習規(guī)則的一種改進算法, 它在單個神經(jīng)元的權值變化中具有很好的收斂性 , 但是在規(guī)模比較大的生物神經(jīng)網(wǎng)絡中, Oja 學習規(guī)則易使網(wǎng)絡的解產(chǎn)生發(fā)散。,30,H

23、ebb學習理論的發(fā)展（三）,鄭鴻宇等根據(jù)實際生物神經(jīng)元之間的連接強度隨時間變化的特點，首先構造了一個Hodgkin-Huxley 方程為節(jié)點動力學模型的動態(tài)變權小世界生物神經(jīng)網(wǎng)絡模型，然后研究了該模型神經(jīng)元的興奮特性、權值變化特點和不同的學習系數(shù)對神經(jīng)元的興奮統(tǒng)計特性的影響。 最有意義的結果是,在同樣的網(wǎng)絡結構、網(wǎng)絡參數(shù)及外部刺激信號的條件下，學習系數(shù)b 存在一個最優(yōu)值bopt ，使生物神經(jīng)網(wǎng)絡的興奮度在bopt 處達到最大。,31,H

24、ebb學習理論的發(fā)展（四）,脈沖時間依賴的突觸可塑性（spike-timing dependent plasticity, STDP）現(xiàn)象的發(fā)現(xiàn)，使Hebb學習律更為精確定量，時間在數(shù)十毫秒之內，為時間編碼理論（而不是長時程的平均發(fā)放）提供了直接證據(jù)。STDP的發(fā)現(xiàn)也是Hebb的細胞集群理論的一個實驗證據(jù)。STDP的突觸修正規(guī)律是一種快速的變化，可能對學習效果產(chǎn)生影響，同時表明不同類型的時間窗口可能對學習的結果有關鍵性的作用。 因此

25、STDP的發(fā)現(xiàn)以及其理論可能對現(xiàn)有的學習算法產(chǎn)生重大影響。,32,Hebb學習理論的發(fā)展（五）,Dayan & Abbott（2001）提出了一個STDP規(guī)則指導下的學習律。它僅是描述了STDP的可塑性，這種方式的可塑性對學習過程究竟有什么好處，及多種窗口函數(shù)情況下學習過程有何不同等問題還需要進一步考慮。Johannes J. Letzkus 討論了局部突觸的時間依賴可塑性的學習規(guī)則，結果表明突觸是根據(jù)局部規(guī)則改變而不是全局的

26、，局部突觸是時間依賴可塑性的關鍵。,33,34,四、一些思考,,生物神經(jīng)網(wǎng)絡系統(tǒng)的神經(jīng)元特性、耦合方式和網(wǎng)絡拓撲結構與網(wǎng)絡動態(tài)特性和功能密切相關。神經(jīng)突觸和樹突反映神經(jīng)元的耦合特性，對神經(jīng)信息的加工和傳導功能有十分重要影響，因此生物神經(jīng)系統(tǒng)的突觸和樹突動力學研究對于了解和分析大腦的學習和記憶功能具有十分重要的理論意義和應用價值。 在研究中要注意針對真實的生物神經(jīng)系統(tǒng)特點建模和分析，根據(jù)生理解剖結構和實驗數(shù)據(jù)

27、分析進行網(wǎng)絡模型的構建和動力學特性的預測。,一些思考（續(xù)一）,目前多數(shù)神經(jīng)網(wǎng)絡研究基本考慮的是不依賴于時間的、雙向、對稱、無權連接矩陣的耦合方式。實際上，大腦的學習和記憶功能是與腦皮層神經(jīng)元間連接強度的變化規(guī)律有關的，即通過突觸可塑性去實現(xiàn)，因此在生物神經(jīng)網(wǎng)絡動力學研究中采用時變、加權、非對稱連接矩陣更為合理。 我們需要根據(jù)實驗結果建立各種神經(jīng)突觸模型和進行突觸可塑性的定性和定量分析，供研究在生物神經(jīng)網(wǎng)絡模型中時變連接方式之