堆溢出防御虛擬機的研究與實現(xiàn).pdf

1、堆溢出是指寫到堆內(nèi)存塊的數(shù)據(jù)大于其內(nèi)存容量導致超越邊界，從而覆蓋相鄰內(nèi)存塊內(nèi)容的一種情形。堆溢出破壞數(shù)據(jù)的完整性，導致程序運行失敗、系統(tǒng)當機，甚至利用它改變程序執(zhí)行流程執(zhí)行非授權(quán)指令，從而獲得被攻擊主機的特權(quán)以便進行各種非法操作。因此對堆溢出防御的研究，對計算機網(wǎng)絡與信息安全、信息對抗有非常重要的理論意義和實用價值。本文指出保護數(shù)據(jù)信息的完整性是防御的關鍵點，從為用戶程序搭建運行時系統(tǒng)環(huán)境，以指令最終進入處理機執(zhí)行為主線，運用虛擬機技術(shù)

2、動態(tài)檢測、控制關鍵指令和部分系統(tǒng)調(diào)用，給出一種基于進程虛擬機動態(tài)防御堆溢出的防御方案。 本文主要包括以下幾個研究工作： 1、分析國內(nèi)外在堆溢出防御方面的研究現(xiàn)狀，給出當前防御技術(shù)的分類，指出當前防御技術(shù)中的不足特別是虛擬機技術(shù)在堆溢出防御中的不足。 目前堆溢出防御技術(shù)的研究可分成靜態(tài)防御技術(shù)和動態(tài)防御技術(shù)兩大類。靜態(tài)防御技術(shù)是指在源程序編譯的不同階段，依據(jù)靜態(tài)庫進行程序更改的代碼修正技術(shù)，它需要高級語言源代碼的支

3、持；動態(tài)防御技術(shù)是對應用軟件的運行環(huán)境進行修正的上下文檢測和更改技術(shù)，主要包括堆不可執(zhí)行和隨機化指令集與地址來防止堆溢出、邊界檢查和沙箱技術(shù)。 當前防御存在的問題是：堆溢出防御技術(shù)大多依賴有源代碼或函數(shù)動態(tài)調(diào)用庫支持的防御；在指令進入處理機后，無法動態(tài)地對其進行執(zhí)行邏輯的防御，從而引發(fā)安全問題。而目前的虛擬機技術(shù)在堆溢出防御中存在看不到溢出過程，控制不住程序的執(zhí)行流程，且不能記錄溢出發(fā)生時緩沖區(qū)中的數(shù)據(jù)等不足。 2、分析

4、堆溢出技術(shù)、溢出過程以及溢出防御，指出保護數(shù)據(jù)信息的完整性是防御的關鍵點，分析并指出進程虛擬機動態(tài)防御堆溢出需要關注的幾個關鍵問題。 堆溢出主要原因是語言在實現(xiàn)上沒有對寫內(nèi)存進行邊界檢查，加上堆具有可讀、可寫屬性，通過對某些數(shù)據(jù)的修改使用，改變程序執(zhí)行流程，使程序可能臨時具有超級用戶權(quán)限，某些特殊的系統(tǒng)調(diào)用等性質(zhì)，從而誘發(fā)堆溢出攻擊。并從用戶空間和系統(tǒng)空間角度來分析堆溢出攻擊所帶來的后果。本文指出保護數(shù)據(jù)信息的完整性是堆溢出防御

5、的關鍵。并把動態(tài)防御技術(shù)分為基于進程和基于系統(tǒng)二類，重點分析搭建進程運行時系統(tǒng)環(huán)境防御溢出所需要注意的關鍵問題。 3、分析并論述堆溢出防御方案的關鍵技術(shù)，指出程序加載、內(nèi)存布局、指令運行是其中主要的關鍵技術(shù)。 首先分析搭建進程虛擬機運行時系統(tǒng)環(huán)境所需的關鍵問題，分別對應不同的關鍵技術(shù)。其次給出程序加載方案，在此基礎上，引出內(nèi)存布局、指令運行、系統(tǒng)調(diào)用等關鍵技術(shù)分析。最后分別給出相應的算法描述，并在此基礎上給出一種堆溢出防

6、御的系統(tǒng)模型。 4、依據(jù)以上的關鍵技術(shù)，以基于Intel X86 CPU的Windows操作系統(tǒng)為例，提出一種堆溢出防御虛擬機DHOVM（Defense of Heap Overflow Virtual Machine）防護堆溢出方案。運用軟件工程的思想，設計并實現(xiàn)該系統(tǒng)。 5、給出驗證目標、驗證環(huán)境和測試大綱，驗證DHOVM達到保護數(shù)據(jù)信息完整性和防護堆溢出的系統(tǒng)設計目標，并運用下推自動機理論對DHOVM能夠正確的防御