模糊測試應用于二進制程序的漏洞發(fā)現(xiàn)方法研究.pdf

1、程序漏洞是網絡安全的根源問題之一，如何快速發(fā)現(xiàn)程序漏洞是目前安全領域的一個研究熱點，特別是基于二進制程序的漏洞發(fā)現(xiàn)技術研究由于其廣泛的適用性和難度更是目前研究的前沿領域。目前，已有的程序發(fā)現(xiàn)技術包括靜態(tài)分析技術、動態(tài)分析技術和滲透測試技術，其中動態(tài)分析技術中的模糊測試方法因為其高性價比:簡單的思想、出色的漏洞發(fā)現(xiàn)數量，成為安全研究人員和黑客使用最廣泛的漏洞發(fā)現(xiàn)技術。然而，傳統(tǒng)的模糊測試存在兩個關鍵問題:(1)生成的測試數據質量不高，表現(xiàn)

2、為測試深度和廣度不夠(2)漏洞確認階段需要大量的人工參與。
　　針對模糊測試的數據生成問題，本文將其歸約為邏輯領域的公式可滿足性問題，使用動態(tài)符號執(zhí)行作為歸約實現(xiàn)手段。本文基于中間語言BIL介紹了動態(tài)符號執(zhí)行用于測試數據生成的基本理論和作為動態(tài)符號執(zhí)行重要性能優(yōu)化措施的動態(tài)污點分析理論，包括符號引入、符號演算、搜索策略、SMT求解器、污點分析策略和主要的難題。在此基礎上，本文設計并實現(xiàn)了一個離線動態(tài)符號執(zhí)行引擎DSEE，DSEE首

3、先將主體是匯編指令序列的軌跡翻譯成BIL程序，然后基于BIL程序做符號執(zhí)行，其間，由原是系統(tǒng)調用幀和污點引入幀翻譯過來的BIL語句引入初始符號變量，依據BIL語句和表達式操作語義進行符號演算，生成由BIL表達式描述的路徑公式，之后該公式被翻譯成SMT求解器Z3支持的SMT2格式并被求解，該解將作為一個新的輸入被繼續(xù)測試，而關于下一個測試輸入的選擇問題則使用了改進的分代搜索算法。另外，本文還設計并實現(xiàn)了一個帶污點分析的軌跡記錄引擎TLET

4、，設計內容包括:參照動畫模型的軌跡模型設計、隨機讀取軌跡幀的序列化容器設計、會引入污點的linux系統(tǒng)調用建模、基于數據依賴的污點傳播規(guī)則建模。本文對DSEE和TLET進行了實驗測試和驗證，結果顯示，兩者能達到之前的設計要求。針對漏洞確認問題，本文通過將棧溢出漏洞利用生成歸約為邏輯公式可滿足性求解實現(xiàn)了棧溢出漏洞的自動確認和利用自動生成。
　　本文的主要貢獻有:(1)設計實現(xiàn)了離線符號執(zhí)行引擎DSEE和作為其基礎的軌跡記錄引擎TL

5、ET，實驗證明兩者能正確工作，這兩者將是該領域后續(xù)繼續(xù)研究工作的平臺基礎;(2)改進了分代搜索算法，加入啟發(fā)因子，以期使搜索盡快朝高代碼覆蓋率方向前進，測試分析顯示，改進后的算法能達到預期的目的;(3)使用動態(tài)污點分析和死碼移除作為DSEE的性能優(yōu)化措施，結果顯示，能很大程度上減少需要符號執(zhí)行的BIL語句數量，從而很大程度上減小了路徑公式尺寸，是有效的優(yōu)化措施;(4)將棧溢出漏洞歸約為邏輯公式的可滿足性問題，使用DSEE實現(xiàn)了該類漏洞的