基于實時數據的動態(tài)異常檢測方法研究.pdf

1、實時數據異常檢測是數據挖掘技術下異常分析的一個主要課題，高效、準確的實時數據異常檢測對于保障工業(yè)生產安全、推進醫(yī)療技術發(fā)展、防止網絡入侵、實現(xiàn)數據預測等有著重要的意義。當實時數據量較小、數據維度較低時，應用傳統(tǒng)的異常檢測技術就可以實現(xiàn)有效的實時數據異常檢測。然而，隨著信息化的加速，實時數據的數據量越來越大，實時數據的維度不確定性越來越強。如果應用傳統(tǒng)的異常檢測技術實現(xiàn)實時數據異常檢測，那么算法的計算復雜度太高使得算法的檢測效率低下，同時

2、由于傳統(tǒng)異常檢測算法泛性較強、針對性較弱等特點導致算法的異常判別和異常分類精度不高。面對現(xiàn)有實時數據的數據量大、屬性不確定性強的特點，如何實現(xiàn)高效準確的實時數據異常檢測是異常分析技術所面臨的一個嚴峻的挑戰(zhàn)。為了解決這一問題，本文針對實時數據的特點做了如下工作:
　　 1)通過分析傳統(tǒng)異常檢測方法模型，結合現(xiàn)有實時數據的特點，本文提出一種針對實時數據的異常檢測模型。相比傳統(tǒng)的異常檢測模型，該模型添加了數據過濾模塊和系數向量模塊:應

3、用數據過濾模塊可以大大減少待檢測實時數據的數據量;應用系數向量模塊可以提高實時數據異常判別和實時數據異常分類的精度。
　　 2)在數據過濾模塊中，本文借鑒Sky-Line空間查詢算法提出了基于邊界集的數據過濾算法(Boundary-SetFilteringalgorithm，BSF)。該算法通過定義統(tǒng)治集和邊界集可以有效的實現(xiàn)數據過濾。異常檢測過程旨在發(fā)現(xiàn)數據集中那些可能或已發(fā)生異常的數據，這些數據的數據量相對于初始數據集的數據

4、量而言是很小的。基于這一特點本文把初始數據集中那些顯然正常的數據樣本定義為被統(tǒng)治樣本，把初始數據集中不屬于被統(tǒng)治樣本的樣本組成的集合定義為邊界集。BSF算法就是指依照自定義的規(guī)則從初始數據集中提取邊界集進而實現(xiàn)數據過濾的過程。
　　 3)在系數向量模塊中，本文基于系數向量和決策樹理論提出了基于系數向量的異常判別方法和Sign異常分類算法。在正交空間下，樣本的系數向量可以確定樣本在空間中的相對位置，所以基于系數向量應用樣本對應向量

5、的系數可以準確的判別實時數據異常;決策樹理論是一種高效的分類技術，其核心在于條件的定義，Sign分類算法以樣本對應向量的系數符號為決策條件能夠實現(xiàn)高精度的異常分類。
　　 4)基于以上提出的模型和方法，本文提出基于系數向量的動態(tài)實時數據異常檢測方法，并應用UCI數據集中的shuttle數據和TEP過程數據完成算法的仿真實驗，實驗對比了基于PCA的異常檢測方法和基于KPCA的異常檢測方法。實驗結果表明基于BSF的實時數據動態(tài)異常檢