二進制環(huán)境下的緩沖區(qū)溢出漏洞動態(tài)檢測.pdf

1、緩沖區(qū)溢出漏洞是一個在各種類型操作系統(tǒng)和程序都廣泛存在的一個安全漏洞，也是被黑客最多使用的攻擊漏洞。目前大多數(shù)緩沖區(qū)溢出檢測工具是基于源代碼的，極大限制了工具的使用范圍。傳統(tǒng)二進制環(huán)境靜態(tài)識別模型存在一些固有缺陷，主要集中在指針別名以及變量類型識別。本文提出了一種動態(tài)與靜態(tài)技術(shù)相結(jié)合的二進制漏洞挖掘方法彌補了大部分缺陷。 本文從分析x86 CPU架構(gòu)和指令開始，詳細介紹了二進制文件的反編譯，虛擬執(zhí)行環(huán)境VM的設(shè)計。在VM的設(shè)計里

2、，設(shè)計了和真實CPU一樣的IA-32基本執(zhí)行環(huán)境，可以執(zhí)行原生x86指令。通過VM，考察指令執(zhí)行狀態(tài)，跟蹤寄存器的變化，解決了指針別名的問題。通過記錄VM中虛擬內(nèi)存每條指令訪存地址，最后統(tǒng)計計算出每條訪存指令實際訪問的變量地址，解決了變量精確識別的問題。 在現(xiàn)代的程序中，包含了大量的庫函數(shù)。為了盡可能的避開這些庫函數(shù)，本文提出了新的快速庫函數(shù)識別技術(shù)。新的快速庫函數(shù)識別技術(shù)相對于現(xiàn)有的技術(shù)，提高了識別準確度，但是識別庫的存儲和重

3、建復雜。 在控制流分析中，引用了圖論里的區(qū)間圖理論，將程序流圖劃分為不相交的區(qū)間子圖。通過區(qū)間圖的簡約，逐步識別出程序流圖的嵌套控制結(jié)構(gòu)。在數(shù)據(jù)流分析中，計算了傳統(tǒng)的數(shù)據(jù)流方程，針對二進制環(huán)境的特點，提出了一個簡易有效的類型識別算法。針對不安全函數(shù)調(diào)用和寫內(nèi)存循環(huán)2種字符串拷貝操作，研究寫內(nèi)存循環(huán)導致的溢出問題，提出一種流相關(guān)、上下文無關(guān)的檢測算法。在循環(huán)關(guān)鍵屬性識別里，再一次結(jié)合VM，計算循環(huán)狀態(tài)差值，從中發(fā)現(xiàn)變化量，由此解決