基于BP神經網絡集成的手寫體數(shù)字識別.pdf

1、在模式識別領域，多年來的實踐表明：對一個復雜的識別分類問題，單一的方法難以獲得令人滿意的識別性能，同時不同的分類方法之間往往存在著互補性，把多個分類器集成可以明顯提高識別率。因此多分類器集成方法近年來已成為研究者們關注的一個熱點。本文建立了一個集成型神經網絡手寫體數(shù)字識別系統(tǒng)，系統(tǒng)主要由兩部分構成，即：學習部分和識別部分。學習部分主要完成七個BP神經網絡的學習訓練，識別部分由特征提取和集成型神經網絡識別構成。在整個系統(tǒng)的實現(xiàn)過程中，本文

2、的主要工作有以下幾個方面： 1．實現(xiàn)了宏觀，局部和微觀三個層次的特征提取，分別應用于七個不同的神經網絡分類器 2．對單個分類器，為提高網絡的收斂速度和避免網絡假飽和現(xiàn)象，對傳統(tǒng)的即神經網絡作了一些改進，例如修改學習因子，修改S函數(shù)，改進最優(yōu)梯度法，引進最優(yōu)步長等。 3．在集成算法中，本文提出了基于判決可靠度估計的最優(yōu)線性集成算法。該方法的思想是：先根據(jù)分類器對每個樣本的判決可靠度，把訓練樣本分為若干個區(qū)域，在不同

3、的區(qū)域里使用最優(yōu)線性集成方法訓練出多組權值向量。在測試時，同樣求出某一測試樣本的判決可靠度，根據(jù)該樣本的判可靠度所在的區(qū)域得出相應的權值，再使用該權值進行組合識別。本文對七個即神經網絡的結果采用多種算法進行組合，用實驗證明基于各類別置信度的最優(yōu)線性集成算法是最優(yōu)的。 本文建立的集成型神經網絡手寫體數(shù)字識別系統(tǒng)，綜合使用了多種模式識別方法，全面反應了手寫體數(shù)字各個方面的特征，試驗結果表明該系統(tǒng)提高了手寫體數(shù)字識別的精度，還有很多地